미국 음성 서비스 제공업체인 링고 텔레콤(Lingo Telecom)이 연방통신위원회(FCC)와 100만 달러의 합의금을 지불하기로 했습니다. 이 회사는 2024년 뉴햄프셔 주 예비선거 유권자들에게 영향을 미친 인공지능 기반 자동전화(로보콜)를 유포한 혐의를 받았습니다.
2024년 1월 21일, 뉴햄프셔 주에서 수많은 시민들이 조 바이든dent 의 목소리를 모방한 음성 전화로 협박을 받았습니다. 자동화된 이 전화는 피해자들에게 주 대통령dent선거에 투표하면 11월 총선에서 투표권을 박탈당할 것이라고 경고했습니다. 이 음성은 딥러닝 알고리즘을 이용해 조 바이든의 목소리를 흉내 낸 가짜 저음 음성으로 녹음되었습니다.
링고텔레콤, 벌금 및 시정 조치에 직면
이 작전은 정치 전략가 스티브 크레이머가 주도했으며, 그는 그 목적이 선거에 영향을 미치는 것이 아니라 인공지능이 얼마나 위험할 수 있는지를 보여주기 위한 것이었다고 주장했습니다. 그러나 크레이머의 행동은 유권자들에게 허위 정보를 제공하고 선거의 공정성을 위협하는 등 잠재적인 부작용을 초래했습니다. 링고 텔레콤의 기술은 이러한 메시지를 관련자들에게 전달하는 데 사용되었기 때문에 이 과정에서 활용되었습니다.
합의에 따라 링고 텔레콤은 민사 벌금으로 100만 달러를 지불해야 하며, FCC는 당초 200만 달러를 요구했었습니다. 또한, 링고 텔레콤은 FCC의 STIR/SHAKEN 발신자 ID 인증 체계 준수를 포함한 강력한 규정 준수 계획을 수립해야 합니다.
이 프레임워크는 발신자 번호 위조 문제를 해결하기 위한 시도입니다. 이는 자동 전화 캠페인에서 발신 번호가 다른 합법적인 번호에서 온 것처럼 보이게 하기 위해 사용되었습니다.
FCC는 또한 이번 합의가 유사한 활동에 연루되거나 이를 조장하는 다른 기업들에게tron경고 메시지를 보내는 데 중요한 역할을 한다고 강조했습니다. 링고 텔레콤은 합의를 수용하면서도 FCC의 조치를tron비판하며, 규제 기관이 새로운 규정을 소급 적용하려 한다고 주장했습니다.
FCC 관계자가 선거에서 인공지능 음성 복제의 위험성을 강조했습니다
미국 연방통신위원회(FCC) 집행국장인 로얀 에갈은 지적 했습니다. 에갈 국장은 이러한 기술이 국가 기관에 의해 정치적 목적으로 악용되거나, 외국 세력이 해당 국가의 정치 과정에 개입하려는 목적으로 사용될 수 있다고 강조했습니다.
자동 음성 통화를 이용한 정치 컨설턴트 스티브 크레이머는 더욱 심각한 처벌에 직면해 있습니다. 연방통신위원회(FCC)는 크레이머에게 600만 달러의 벌금을 부과할 것을 제안했으며, 그는 유권자 투표 방해 혐의로 최대 7년의 징역형에 처해질 수도 있습니다.
게다가 크레이머는 정치 후보자를 사칭한 혐의로 1년형을 선고받을 수도 있습니다. 이러한 혐의들은 당국이 이 사건을 정치에 인공지능을 사용하는 데 따르는 위험성을 보여주는 명백한 사례로 보고 있음을 나타냅니다.
비영리 단체인 퍼블릭 시티즌의 dent 로버트 와이스먼은 "우리 민주주의에 실존적 위협을 가한다"
