미국 기업 링고 텔레콤, AI 생성 바이든 로보콜로 100만 달러 벌금 부과

미국 기반 음성 서비스 제공업체인 링고 텔레콤은 연방통신위원회(FCC)와 100만 달러의 합의에 도달했습니다. 이 회사는 2024년 뉴햄프셔 주 예비선거 유권자에게 영향을 미친 AI 기반 로보콜을 용의했다는 혐의를 받았습니다. 

2024년 1월 21일, 뉴햄프셔 주 많은 시민들은 조 바이든 대통령 목소리와 유사한 음성의 전화로 위협을 느꼈습니다. 자동화된 이 전화는 주 내 대통령 예비선거 투표가 11월 총선에서 투표권 박탈로 이어질 것이라고 경고했습니다. 이 목소리는 딥러닝 알고리즘을 사용하여 조 바이든을 모방한 가짜 딥ボ이스로 녹음되었습니다. 

링고 텔레콤, 벌금 및 준수 조치 부과

이 작전은 정치 전략가 스티브 크레이머가 수행했으며, 그는 선거에 영향을 주기보다 AI가 얼마나 위험할 수 있는지 보여주기 위한 것이었다고 주장했습니다. 그러나 크레이머의 행동은 유권자에게 잘못된 정보를 제공하고 선거의 공정성에 위협을 가하는 등 잠재적인 부정적 영향을 미쳤습니다. 링고 텔레콤의 기술은 해당 사람들에게 메시지를 전송하는 것을 용이하게 했기 때문에 이 과정에서 사용되었습니다. 

합의에 따라 링고 텔레콤은 민사 벌금으로 100만 달러를 지불해야 하며, FCC는 원래 회사에 200만 달러를 지불하도록 요구했습니다. 또한 회사는 FCC의 STIR/SHAKEM 발신자 ID 인증 프레임워크 준수를 포함한 강력한 준수 계획을 수립해야 합니다.

이 프레임워크는 발신자 ID 스푸핑 문제를 해결하기 위한 시도입니다. 이 로보콜 캠페인에서는 이 기술을 사용하여 전화를 다른 합법적인 번호에서 온 것처럼 보이게 했습니다. 

FCC는 또한 이번 합의가 이러한 활동에 관여하거나 이를 용의하는 다른 기업들에게 강력한 메시지를 전달하는 데 핵심적이라고 강조했습니다. 링고 텔레콤은 합의를 수락했지만, 규제 기관이 새로운 규칙을 소급 적용하려고 한다고 주장하며 FCC의 조치에 강력히 비판했습니다.

FCC 관계자, 선거에서의 AI 음성 복제 위험성 강조

FCC 집행국 국장인 로얀 에갈은 전화기 ID 스푸핑과 AI 음성 복제를 통한 사칭이 선거 기간 동안 특히 매우 위험하다고 지적했습니다. 에갈은 이러한 기술이 국가 행위자에 의해 정치적 의제를 추구하거나 외국 행위자에 의해 해당국의 정치적 과정에 개입하려는 목적으로 오용될 수 있다고 지적했습니다.

로보콜을 만든 정치 컨설턴트 스티브 크레이머는 더 심각한 결과를 직면하고 있습니다. FCC는 크레이머에게 600만 달러의 벌금을 부과할 것을 제안했으며, 그는 선거 방해 혐의에 대해 최대 7년의 징역형도 받을 수 있습니다.

 또한 크레이머는 정치 후보 사칭으로 1년형을 선고받을 수도 있습니다. 이 혐의들은 당국이 이 사건을 정치에서 AI 사용으로 인한 위험의 명확한 예시로 보고 있음을 보여줍니다. 

비영리 단체인 퍼블릭 시티즌의 공동 대표인 로버트 웨이스먼은 이번 사례에서 연방통신위원회(FCC)의 조치를 환영하며, 딥페이크가 “우리의 민주주의에 대한 존재론적 위협”을 제기한다고 말했습니다.