양당 간 법안, 연방 공무원의 AI 사기 및 딥페이크 단속으로 이동

‘AI 사기 억제법(The AI Fraud Deterrence Act)’이라는 제목의 양당 간 법안이 두 명의 의원들에 의해 제안되었으며, 이는 특히 연방 공무원들을 표적으로 삼는 딥페이크를 포함한 사기에서 인공 지능의 증가하는 오용을 해결하는 것을 목표로 합니다. 

이 입법은 최근 AI 생성 오디오나 비디오가 관리직이나 대중을 속이는 데 사용된 고조된 사건들에서 인공지능 기술이 수행한 역할을 반영하도록 기존 미국 사기법을 현대화하는 데 중점을 둘 것입니다.

양당 간 법안에 대해 더 알아보기

캘리포니아주 민주당 테드 류(Ted Lieu) 의원과 플로리다주 공화국 닐 던(Neal Dunn) 의원이 제안한 이 법안은 범죄자들이 이제 사기성 관행에서 AI를 사용하는 용이성과 대담함에 지친 두 입법자로, 사기성 관행에서 AI를 사용하는 범죄에 대한 형량을 확대하고 AI 사기 AI를 사용하여 연방 공무원 사칭을 범죄로 규정하는 것을 목표로 합니다.

“AI 기술이 빠른 속도로 발전함에 따라, 우리의 법률도 뒤처지지 않아야 합니다.” 던 의원은 법안 발표 성명에서 “AI 사기 방지법(AI Fraud Deterrence Act)은 AI의 도움을 받아 저지른 사기 관련 범죄에 대한 형량을 강화합니다. 저는 대중의 신원을 보호하고 이 혁신적인 기술의 오용을 방지하기 위해 이 입법을 공동 주도하게 되어 자랑스럽습니다.”라고 말했습니다.

류 의원도 동의하며, 지난 주 NBC 뉴스와의 인터뷰에서 대부분의 미국인들이 “완전한 무법 상태(Wild West)가 도움이 되지 않는다고 생각하기 때문에” AI에 대해 “현명한 안전장치”를 원한다고 말했습니다.

해당 제안된 법률에 따르면, AI가 의도적으로 범죄를 용이하게 하는 데 사용된 경우 사기죄의 최대 형량이 100만 달러에서 200만 달러로 두 배로 인상됩니다. 또한 우편 사기 및 전신 사기의 정의에 AI 매개 사기를 포함함으로써, AI를 사용하여 이러한 유형의 사기를 수행한 개인을 기소할 수 있게 됩니다.

두 경우 모두, 범죄자들은 우편 사기의 경우 최대 20년, 전신 사기의 경우 3년의 징역형과 백만 달러 규모의 벌금형을 받을 수 있습니다. 

초안에서는 또한 AI 딥페이크를 사용하여연방 공무원 사칭을 금지하며, 올해 초 AI가 백악관 비서실장 수지 와일스(Susie Wiles)와 마르코 루비오(Marco Rubio) 국무장관을 모방하려는 시도에 사용된 사례들을 강조했습니다.

사기는 인간이 존재해 온 이래로 존재해 왔지만, 전문가들은 AI 덕분에 사기성 산출물의 질이 향상되었다고 말합니다. 

12월, FBI는 “생성형 AI는 범죄자가 표적을 속이는 데 소요해야 하는 시간과 노력을 줄여준다”며 “AI는 사기에 대한 경고 신호로 작용할 수 있는 인간의 오류를 수정할 수 있다”고 경고했습니다.

온타리오주 워털루 대학교의 컴퓨터 과학 연구 교수이자 변호사인 마우라 R. 그로스만(Maura R. Grossman) 또한 AI가 사기의 새로운 시대를 가능하게 한다고 믿습니다. “AI는 과거의 사기와 매우 다른 규모, 범위, 속도를 사기에 제공합니다.”라고 그녀는 말합니다.

AI 모델은 더 정교해졌습니다

그러나 범죄를 용이하게 한다는 사실이 가장 큰 문제는 아닙니다. 관찰자들은 현재 사법 법원 같은 기관들이 AI 부문의 빠른 발전에 따라잡기 어려워하고 있다고 우려하고 있습니다. 

“AI의 연수는 개의 연수와 같습니다.” 캘리포니아 대학교 버클리의 컴퓨터 과학 교수이자 주요 디지털 미디어 인증 회사인 GetReal Security의 공동 설립자인 하니 파리드(Hany Farid)는 AI 발전 속도에 대해 이렇게 말했습니다.

과거에는, 특히 이미지의 경우 AI 콘텐츠와 실제 콘텐츠를 구분하는 것이 너무 어렵지 않았습니다. 그러나 오늘날 AI는 더 정교해졌으며, 심지어 가장 경험 많은 사용자들도 미디어가 실제인지 생성된 것인지 판단하는 데 어려움을 겪고 있습니다. 

12월 FBI의 경고는 개인들이 AI 생성 미디어를 식별하기 위해 이미지와 비디오의 불일치를 주시할 것을 권고했습니다. “왜곡된 손이나 발과 같은 이미지와 비디오의 미묘한 결함을 찾으십시오.”라고 밝혔습니다.

그러나 파리드 교수는 이 오래된 조언이 잘못되었으며 심지어 해롭다고 믿습니다. “여러 개의 손이 나오는 트릭은 이제 더 이상 사실이 아닙니다.” 파리드 교수는 “손이나 발을 찾을 수 없습니다. 그런 것들은 모두 통하지 않습니다.”라고 말했습니다.

류와 던 의원이 제안한 법안은 AI 생성 콘텐츠의 라벨링의 중요성을 강조합니다. 또한 AI 생성 미디어에는 적절한 시기와 장소가 있음을 명확히 합니다. 예를 들어, 콘텐츠가 풍자적이라고 라벨이 지정되면, 해당 태그는 그것이 진위가 아님을 명확히 하므로 처벌에서 면제됩니다.