최근 미국 연방통신위원회(FCC) 위원장인 제시카 로젠워셀은 인공지능(AI)으로 생성된 음성을 사용하는 통화를 불법으로 규정하는 방안을 제안했습니다. 이러한 규제와 처벌은 소비자전화보호법(TCPA)의 적용을 받게 됩니다. FCC 위원장의 이러한 움직임은 dent 의 목소리를 모방하여 허위 메시지를 유포한 dent 에 나온 것입니다 .
FCC 위원장, AI 생성 음성 금지 제안
조작된 메시지들은 뉴햄프셔 주민들에게 주 예비선거에 참여dent말라고 권고했으며, 이는 다가오는 2024년dent에 개입하려는 의도가 분명해 보였다. 바dent 대통령의 목소리를 모방한 이 자동 음성 메시지들은 주 법무장관실에 의해 즉시 허위 정보로 분류되었다.
인공지능(AI) 기반 자동전화 문제가 심각해짐에 따라, FCC 위원장 로젠워셀은 수신자의 동의 없이 이루어지는 자동화된 정치 및 마케팅 전화를 규제하기 위해 1991년에 제정된 TCPA(전화 소비자 보호법)를 적용하자는 제안을 내놓았습니다. TCPA의 주요 목적은 원치 않는 텔레마케팅 전화 및 자동 메시지를 포함한 불필요하고 사생활 침해적인 통신으로부터 소비자를 보호하는 것입니다.
최근 몇 년 동안 이러한 전화 사기가 크게 증가했는데, 기술 발전으로 유명인, 정치인, 심지어 가족 구성원의 목소리를 사칭하는 것이 가능해졌기 때문입니다. 로젠워셀 FCC 위원장의 제안이 채택되면 전국의 주 법무장관들은 이러한 악의적인 자동 전화 사기범들을 추적하고 법적 처벌을 집행할 수 있는 추가적인 권한을 갖게 될 것입니다.
이번 FCC 위원장의 계획은 2023년 11월, 불법 자동전화 문제 해결 및 인공지능(AI)의 잠재적 활용 방안에 대한 정보 수집을 요청한 FCC의 질의 공고에 따른 것입니다. 해당 공고는 AI가 사기, 음성 모방 등에 어떻게 활용될 수 있는지, 그리고 TCPA(전화 소비자 보호법)에 따라 규제 대상이 되어야 하는지 여부를 중점적으로 다루었습니다. 또한, FCC 위원장은 이번 조사를 통해 AI를 긍정적으로 활용할 수 있는 방안, 특히 불법 자동전화를 식별하고 예방하는 데 있어 AI의 잠재력을 파악하고자 한다고 밝혔습니다.
인공지능 환경 및 입법적 대응
더 넓은 관점에서 보면, 백악관은 바이든dent 의 인공지능(AI) 관련 행정명령 발표 3개월 후인 1월 29일, AI 관련 주요 조치를 요약한 자료를 공개했습니다. 이 자료는 "AI 시스템의 잠재적 위험으로부터 미국인을 보호하라"는dent의 책무를 향해 "상당한 진전"이 있었다고 인정했습니다
인공지능(AI)으로 생성된, 매우 교묘한 기만 콘텐츠인 딥페이크의 등장으로 우려가 커지고 있습니다. 세계경제포럼(WEF)은 제19차 세계 위험 보고서에서 AI 기술과 관련된 부정적인 결과들을 강조했습니다. 이러한 우려는 미국을 넘어 캐나다의 주요 국가 정보기관인 캐나다 정보보안국(CIS)이 인터넷상에서 AI 딥페이크를 이용한 허위 정보 유포 캠페인에 대해 우려를 표명하면서 확산되고 있습니다.
인공지능(AI)이 생성한 콘텐츠가 제기하는 광범위한 문제에 대응하여 미국 의원들은 딥페이크 이미지 제작을 범죄로 규정하는 법안 제정을 촉구했습니다. 이러한 요구는 테일러 스위프트와 같은 유명인의 노출이 심한 가짜 사진이 널리 유포된 이후에 나온 것입니다. AI와 커뮤니케이션 기술의 융합은 혁신과 규제 사이의 균형을 필요로 하는 복잡한 문제들을 야기합니다.
인공지능(AI)이 지속적으로 발전함에 따라 정책 입안자, 규제 기관 및 법 집행 기관은 이러한 기술의 오용 가능성에 대응하기 위해 법적 틀을 조정하는 과제에 직면하고 있습니다. AI가 생성한 음성 통화를 기존 법률에 따라 불법으로 분류하자는 제안은 기만적인 자동 전화와 통신 분야에서 AI가 미치는 광범위한 영향에 대한 우려가 커지는 상황에서 선제적인 조치입니다.
