마이크로소프트, 미국 의회에 AI 생성 딥페이크 대응 촉구

마이크로소프트는 AI 생성 딥페이크를 표적으로 하는 새로운 입법을 의회에 통과시키도록 요청했습니다. 마이크로소프트의 부회장 겸 사장인 브래드 스미스는 입법자들이 딥페이크 기술의 증가하는 위협에 대응할 긴급성을 강조했습니다. 

최근 블로그 글에서 스미스는 딥페이크 사기를 다루고 착취를 방지하기 위해 법을 적응시키는 중요성을 강조했습니다. 스미스에 따르면, 딥페이크 사기와 사기를 기소할 수 있는 법령이 마련되어야 합니다.

마이크로소프트, 연방 딥페이크 사기 법령 제안

마이크로소프트의 보고서에 따르면, 딥페이크 기술의 오용을 방지하기 위해 여러 법적 개입이 취해질 수 있습니다. 하나의 제안은 연방 '딥페이크 사기 법령'을 만드는 것입니다. 이 새로운 법은 합성 콘텐츠 사기의 민사 및 형사 차원을 모두 다루며 다음과 같은 조치를 포함할 수 있습니다: 형사 기소, 민사 압수, 그리고 금지 명령. 

보고서는 또한 합성 콘텐츠 식별 요구를 지지합니다. 고급 출처 추적 도구의 사용 규제를 통해 대중은 온라인에서 받는 콘텐츠의 출처를 이해할 수 있게 될 것입니다. 이는 디지털 정보의 신뢰성과 가짜 뉴스의 확산 방지에 중요합니다. 

“의회는 AI 시스템 제공자에게 최첨단 출처 추적 도구를 사용하여 합성 콘텐츠에 레이블을 붙이도록 요구해야 합니다. 이는 정보 생태계에 대한 신뢰를 구축하는 데 필수적이며, 대중이 콘텐츠가 AI 생성인지 조작되었는지 더 잘 이해하는 데 도움이 될 것입니다.”

브래드 스미스

또한, 마이크로소프트는 아동 착취 및 동의 없는 명시적 이미지에 관한 현재 법률을 수정하여 AI 생성 이미지를 포함하도록 제안합니다. 이는 법적 체계가 기술 발전과 일치하여 취약한 집단도 보호되도록 보장합니다. 

미국 상원은 최근 성적으로 명시적인 딥페이크를 목표로 하는 법안을 통과시킴으로써 이 방향으로 조치를 취했습니다. 이 새로운 법은 동의 없는 성적으로 명시적인 AI 딥페이크의 피해자들이 콘텐츠 제작자를 고소할 수 있도록 허용합니다. 

FCC, AI 음성 로보콜에 “no”

마이크로소프트는 또한 AI의 오용에 대응하고 제품에서 안전 조치를 강화했습니다. 회사는 최근 유명인의 음란한 사진을 생성하는 데 악용된 취약점 이후 Designer AI 이미지 생성자를 개선했습니다. 스미스는 민간 부문이 AI가 오용되지 않도록 조치를 취해야 하며, 기술 기업들이 사용자가 해를 입지 않도록 보장할 책임이 있다고 말했습니다. 

FCC는 이미 로보콜에서 AI 음성 사용을 금지함으로써 AI의 오용에 대해 조치를 취했습니다. 그럼에도 불구하고 생성형 AI는 가짜 오디오, 이미지, 비디오 생성 능력이 점점 더 향상되고 있습니다. 이 문제는 최근 소셜 미디어에 퍼진 카멀라 해리스 미국 부통령의 딥페이크 비디오로 인해 최근 악화되었으며, 이는 딥페이크 기술의 증가하는 위험을 예시했습니다.

민주주의와 기술 센터(CDT)와 같은 다른 비영리 조직들도 딥페이크 남용 퇴치에 참여하고 있습니다. CDT의 수석 정책 분석가인 팀 하퍼가 지적했듯이, 2024년은 선거에서 AI의 중요한 전환점을 나타내며, 사람들은 이에 대비해야 합니다. 현재 딥페이크에 대한 반발은 기술적 조작에 대한 장기적인 투쟁의 초기 형태일 수 있습니다.