마이크로소프트는 미국 의회에 AI로 생성된 딥페이크 문제 해결을 촉구했습니다

마이크로소프트는 의회에 인공지능으로 제작된 딥페이크를 겨냥한 새로운 법안 통과를 촉구했습니다. 브래드 스미스 마이크로소프트 부회장 겸dent 은 의원들이 딥페이크 기술의 증가하는 위협에 시급히 대처해야 한다고 강조했습니다. 

최근 블로그 게시물스미스는 딥페이크 사기를 해결하고 악용을 방지하기 위해 법률을 개정하는 것이 중요하다고 강조했습니다. 스미스에 따르면, 딥페이크를 이용한 사기 및 부정행위를 처벌할 수 있는 법률이 마련되어야 합니다. 

마이크로소프트, 딥페이크 사기 관련 연방 법률 제정 제안

마이크로소프트 보고서에 따르면 딥페이크 기술의 오용을 방지하기 위해 여러 가지 법적 조치가 취해질 수 있습니다. 그중 하나는 연방 차원의 '딥페이크 사기 방지법'을 제정하는 것입니다. 이 새로운 법은 합성 콘텐츠 사기의 민사 및 형사적 측면 모두를 다루며, 형사 고발, 민사 압류, 금지 명령 등의 조치를 포함할 수 있습니다. 

이 보고서는 합성 콘텐츠dent의 필요성도 뒷받침합니다. 고급 출처 추적 도구의 사용을 규제함으로써 대중은 온라인에서 접하는 콘텐츠의 출처를 명확히 알 수 있게 될 것입니다. 이는 디지털 정보의 신뢰성을 확보하고 가짜 뉴스의 확산을 막는 데 중요합니다. 

"의회는 인공지능 시스템 제공업체가 최첨단 출처 추적 도구를 사용하여 합성 콘텐츠에 라벨을 붙이도록 의무화해야 합니다. 이는 정보 생태계에 대한 신뢰를 구축하는 데 필수적이며, 대중이 콘텐츠가 인공지능에 의해 생성된 것인지 아니면 조작된 것인지 더 잘 이해하는 데 도움이 될 것입니다."

브래드 스미스

또한 마이크로소프트는 아동 착취 및 동의 없는 음란 이미지에 관한 현행법을 개정하여 AI가 생성한 이미지까지 포함하도록 제안합니다. 이는 법적 체계가 기술 발전에 발맞춰 취약 계층을 보호할 수 있도록 보장할 것입니다. 

미국 상원은 최근 성적으로 노골적인 딥페이크 콘텐츠를 겨냥한 법안을 통과시키며 이와 관련한 조치를 취했습니다. 이 새로운 법은 동의 없이 제작된 성적으로 노골적인 AI 딥페이크 콘텐츠의 피해자들이 제작자를 상대로 소송을 제기할 수 있도록 합니다. 

FCC는 AI 음성 자동 전화에 "반대" 입장을 밝혔습니다

마이크로소프트 역시 AI 오용 문제에 대응하여 제품의 안전 조치를 강화했습니다. 최근에는 유명인들의 음란 사진을 생성하는 데 악용된 취약점을 해결하기 위해 AI 이미지 생성 도구인 Designer를 개선했습니다. 스미스는 민간 부문이 AI 오용을 방지하기 위한 조치를 마련해야 하며, 기술 기업들은 사용자가 피해를 입지 않도록 보장해야 할 책임이 있다고 말했습니다. 

미국 연방통신위원회(FCC)는 이미 자동 음성 통화에 AI 음성 사용을 금지하는 등 AI 오용에 대응 조치를 취했습니다. 하지만 생성형 AI는 가짜 오디오, 이미지, 비디오를 생성하는 기술을 점점 더 발전시키고 있습니다. 최근 소셜 미디어에 유포된 카말라 해리스 미국dent 의 딥페이크 영상은 딥페이크 기술의 위험성을 여실히 보여주며 이 문제를 더욱 악화시켰습니다.

민주주의와 기술 센터(CDT)와 같은 다른 비영리 단체들도 딥페이크 악용 방지 활동에 참여하고 있습니다. CDT의 선임 정책 분석가인 팀 하퍼는 2024년이 선거에서 인공지능의 중요한 전환점이 될 것이며, 이에 대비해야 한다고 강조했습니다. 현재 딥페이크에 대한 반발은 기술적 조작에 맞서는trac투쟁의 초기 형태일 수 있습니다.