양당 의원들이 AI 딥페이크 퇴치를 위한 법안을 도입

아이오와주와 매사추세츠주의 의원들은 온라인 플랫폼에서 증가하는 성적으로 노골적인 '딥페이크'의 위협에 대응하기 위한 양당 법안을 도입했습니다. 이 입법은 아이오와주의 공화당 연방 하원의원 아슐리 히슨과 매사추세츠주의 민주당 연방 하원의원 제이크 오킨클로스가 주도합니다. 이 법안은 이러한 유해한 콘텐츠를 제거하지 않는 빅테크 기업들을 책임지도록 하는 것을 목표로 합니다.

제안된 법률인 친밀한 사생활 보호법(Intimate Privacy Protection Act)은 현재 온라인 플랫폼이 사용자 생성 콘텐츠에 대한 법적 책임으로부터 보호하는 1996년 통신도덕법 230조를 수정하려고 합니다. 통과될 경우, 페이스북, X(구 트위터), 유튜브는 사이트에서 딥페이크 포르노그래피에 대해 조치를 취하지 않으면 면책 특권을 잃을 수 있습니다.

새로운 법안은 기술 플랫폼이 딥페이크 문제를 해결할 것을 요구

이 입법은 현실적이지만 거짓 이미지와 비디오를 생성하는 인공지능 기반 딥페이크 기술의 증가하는 오용을 다룹니다. 이러한 딥페이크는 종종 피해자의 얼굴을 포르노그래피 비디오의 몸에 합쳐서 사람들을 타협적이거나 성적인 상황에 노출시킵니다. FBI는 명시적인 이미지의 확산을 막기 위해 피해자를 협박하여 몸값을 지불하도록 하는 딥페이크 '섹스톨레이션' 사기가 증가하는 것을 목격했습니다.

법안에 따르면 기술 플랫폼은 24시간 이내에 유해한 콘텐츠를 보고, 조사 및 제거하기 위한 명확하고 쉬운 방법과 법원 사건을 위해 피해자가 증거를 사용할 수 있도록 하는 데이터 로깅을 포함하여 사생활 침해 예방을 위한 '합리적인 절차'를 마련해야 합니다.

주 및 연방 의원들이 딥페이크에 대해 조치

아이오와주는 이미 주 차원에서 이 문제에 대응했습니다. 올해 초 주 의원들은 디지털로 변조된 포르노그래피 이미지를 유포하는 것을 불법으로 만드는 법률을 통과시켰으며, 이는 최대 2년의 징역형과 벌금에 처해집니다. 또한 18세 이상의 유죄 판결을 받은 자는 성범죄자로 등록해야 합니다.

연방 차원에서, 최근 통과된 법률은 동의 없는 성적으로 노골적인 딥페이크의 제작자/공유자/수령자를 고소할 수 있도록 허용합니다. 미성년자를 위험한 온라인 활동으로부터 보호하기 위한 다른 법안들은 소셜 미디어 회사가 어린이 간 통신을 제한하는 옵션을 제공하고 확장된 사용을 허용하는 기능을 비활성화하도록 요구합니다.

더 엄격한 규제를 위한 움직임이 있지만, 제안된 조치는 제1수정권(표현의 자유)에 대한 우려를 제기합니다. 미국시민자유연합(ACLU)과 같은 시민권 단체들은 KOSA가 미성년자의 중요한 자원 접근을 제한하거나 표현의 자유를 제한할 수 있다고 주장합니다. ACLU는 이 법안이 또한 성인의 온라인 자유 표현 능력이나 다양한 관점에 대한 접근을 방해할 수 있다고 경고합니다.

이에 대해 히슨은 그녀의 법안이 딥페이크로부터 개인을 보호하고 제1수정권 권리를 보존하는 사이의 균형을 추구한다고 강조했습니다. 그녀는 입법이 표현의 자유를 침해하지 않으면서도 문제를 효과적으로 해결하도록 의원들과 협력할 의사를 표현했습니다.