미국은 인공지능(AI) 기반 자동전화 dent 급증하여 수천 명의 시민이 피해를 입자, AI 기반 자동전화 사용을 금지한 것 입니다. 최근 인공지능 기술의 발전으로 오해를 불러일으키는 음성 및 영상 콘텐츠 제작이 가능해지면서, 이러한 사기 행위를 탐지하고 예방하는 데 상당한 어려움이 발생하고 있습니다.
인공지능이 생성하는 자동 음성 전화 금지
미국 연방통신위원회(FCC)는 음성 복제를 이용한 사기 행위의 증가 추세에 대응하여 인공지능(AI) 기반 자동 음성 통화를 금지했습니다. 이번 금지 조치는 노인이나 정보 접근성이 낮은 사람들을 포함하여 신뢰받는 인물을 사칭하거나 허위 정보를 전달하는 스팸 전화의 피해자가 되는 취약 계층을 보호하기 위한 것입니다.
이번 금지 조치는 연방통신위원회(FCC)가 인공지능(AI)으로 생성된 음성을 자동전화에 사용하는 기업에 벌금을 부과하고, 이러한 통화를 중개하는 서비스 제공업체를 제한할 수 있도록 권한을 부여합니다. 이러한 즉각적인 규제 조치는 사기 행위를 근절하고 소비자를 기만적인 수법으로부터 보호하려는 정부의 의지를 보여줍니다.
음성 복제 사기의 만연
악의적인 행위자들은 음성 복제 기술을 악용하여 갈취, 유명인 사칭, 유권자 허위 정보 유포 등 다양한 형태의 사기를 자행해 왔습니다. 특히 최근에는 조 바이든dent 사칭한 가짜 자동 음성dent 가 뉴햄프셔주 민주당 예비선거에서 유권자들의 바이든 지지를 막으려는 시도가 있었습니다.
이러한dent에 대응하여 FCC는 형사 조사를 시작하고 인공지능(AI) 기반 자동 음성 통화를 유포하는 데 관여한 업체들에 대해 활동 중지 명령을 내렸습니다. 정부 관계자들은 선거 운동 기간 동안 가짜 자동 음성 통화가 확산되면서 유권자 탄압 및 선거 개입 위험이 높아졌다고 강조했습니다.
미국 연방통신위원회(FCC)가 시행하는 규제 조치는 인공지능(AI) 기술 발전으로 인해 발생하는 위협 환경에 대응하기 위한 것입니다. 정부는 자동 음성 통화에서 AI 기반 음성 사용을 금지함으로써 통신 채널의 건전성을 보호하고 통신 시스템에 대한 국민의 신뢰를 회복하고자 합니다.
인공지능(AI) 기반 자동 음성 통화 금지는 음성 복제 사기가 소비자 및 민주주의 과정에 미치는 악영향을 완화하는 데 중요한 진전입니다. 정부는 단호한 규제 조치를 통해 사기 행위를 억제하고 통신 분야의 투명성과 책임성 원칙을 수호하고자 합니다. 기술이 발전함에 따라 AI 기반 콘텐츠가 제기하는 새로운 위협에 대비하기 위해서는 경계 태세를 유지하고 규제를 적절히 조정하는 것이 필수적입니다.
