FCC 의장, AI 생성 음성 금지 새로운 법안 제안

최근 미국 연방통신위원회(FCC) 의장인 제시카 로젠워셀은 인공지능(AI) 생성 음성을 사용한 전화를 불법으로 분류하는 것을 제안했습니다. 의도된 규제와 처벌은 전화 소비자 보호법(TCPA)의 관할권에 속합니다. 이 이니셔티브는 AI 생성 음성을 사용하여 조 바이든 미국 대통령의 목소리를 모방한 허위 메시지를 유포한 우려스러운 사건 직후 FCC 의장에 의해 이루어졌습니다.

FCC 의장, AI 생성 음성 금지 제안

조작된 메시지는 뉴햄프셔 주민들에게 주 예비 선거 참여를 자제하도록 권유했으며, 명백한 목적은 다가오는 2024년 대통령 선거를 방해하는 것이었습니다. 바이든 대통령의 목소리를 모방한 자동 전화는 주 법무장관 사무소에 의해 빠르게 허위 정보로 표지되었습니다.

AI 기반 로보콜 문제가 심화됨에 따라, FCC 의장 로젠워셀의 제안은 수취인의 동의 없이 자동화된 정치 및 마케팅 전화를 규제하기 위해 설계된 1991년 법률인 TCPA를 발동하려는 것입니다. TCPA의 주요 목표는 원치 않는 텔레마케팅 전화 및 자동 메시지를 포함하여 소비자를 불필요하고 침습적인 통신으로부터 보호하는 것입니다.

최근 몇 년간 이러한 전화의 유행은 기술 발전이 유명인, 정치인 및 심지어 가족 구성원의 목소리를 사기성 모방할 수 있게 되면서 크게 증가했습니다. 채택될 경우, FCC 의장 로젠워셀의 제안은 전국 주 법무장관들이 이러한 악의적인 로보콜에 책임 있는 자들을 추적하고 법적 제재를 시행하기 위해 추가 도구를 갖추도록 권한을 부여할 것입니다.

이 FCC 의장의 이니셔티브는 2023년 11월 불법 로보콜 처리 및 AI의 잠재적 관여에 대한 정보 수집을 모색한 기관의 문의 통지(NOTICE OF INQUIRY)를 따릅니다. 이 문의는 사기, 음성 모방 및 TCPA 하에서 규제되어야 하는지 여부를 포함하여 AI의 역할에 대해 심층적으로 다루었습니다. 또한 FCC 의장은 AI가 불법 로보콜을 인식하고 예방하는 데 특히 긍정적으로 활용될 수 있는 방법에 대한 통찰력을 수집하려는 목표를 언급했습니다.

AI 환경 및 입법 대응

더 넓은 규모에서 백악관은 1월 29일 AI에 대한 주요 조치를 outlining하는 사실 시트를 발표했으며, 이는 바이든 대통령의 AI에 대한 행정명령 이후 3개월 후였습니다. 사실 시트는 “미국인을 AI 시스템의 잠재적 위험으로부터 보호한다”는 대통령의 지시 menuju “상당한 진전”을 인정했습니다.

매우 사기성일 수 있는 AI 생성 콘텐츠인 딥페이크의 부상은 우려를 불러일으켰습니다. 세계 경제 포럼은 19차 글로벌 리스크 보고서에서 AI 기술과 관련된 부정적인 결과를 강조했습니다. 우려는 미국을 넘어 캐나다의 주요 국가 정보 기관인 캐나다 보안 정보 서비스(CSIS)가 인터넷에서 AI 딥페이크를 사용하는 허위 정보 캠페인에 대해 우려를 표명하면서 캐나다에서도 확장되고 있습니다.

AI 생성 콘텐츠가 제기하는 더 넓은 도전에 대응하여, 미국 의원들은 딥페이크 이미지 생산을 형사 범죄로 규정하는 입법을 촉구했습니다. 이 행동은 테일러 스위프트와 같은 유명인의 명시적인 가짜 사진이 널리 유포된 직후 이루어졌습니다. AI와 통신 기술의 교차점은 혁신과 규제 사이의 균형을 필요로 하는 복잡한 도전을 제기합니다.

AI가 계속 진화함에 따라 정책 입안자, 규제 기관 및 법 집행 기관은 이러한 기술의 잠재적 오용을 다루기 위해 법적 프레임워크를 적응시키는 과제를 안고 있습니다. 기존 법률 하에서 AI 생성 음성 전화를 불법으로 분류하는 제안은 사기성 로보콜과 통신에서의 AI의 더 넓은 영향력에 대한 증가하는 우려를 다루기 위한 선제적 조치입니다.