인공지능이 생성한 가짜 누드 사진 급증, 사생활과 생명에 위협 제기

인공지능(AI) 도구의 발전은 가짜 음란 이미지와 동영상의 급증이라는 우려를 낳고 있으며, 이는 사생활 침해와 착취에 대한 심각한 문제를 야기하고 있습니다. 피해자들은 주로 여성과 청소년으로, AI가 생성한 가짜 누드 사진이 가져오는 공개적인 노출에 제대로 대비하지 못하고 있습니다.

사생활 침해

유튜브 인플루언서인 가비 벨은 자신의 이미지가 인터넷에 유포되고 있는 가짜 누드 사진에 사용된 것을 발견했습니다. 해당 사진은 그녀가 동의한 적 없는, 민망한 상황을 묘사하고 있었습니다. 벨의 사례는 드문 일이 아닙니다. 유명인부터 일반 십대 청소년에 이르기까지 많은 사람들이 인공지능이 생성한 가짜 누드 사진의 피해자가 되고 있습니다. 이러한 가짜 이미지는 수치심을 유발하거나, 금전적 갈취를 초래하거나, 혹은 개인적인 환상을 표출하는 수단으로 이용될 수 있습니다.

가짜 누드 사진의dent없는 증가

인공지능은dent없는 가짜 음란 이미지와 동영상의 급증을 초래했습니다. 업계 분석가인 제네비브 오에 따르면, AI가 생성한 음란 사진을 게시하는 것으로 알려진 상위 10개 웹사이트에서 가짜 누드 사진의 수는 2018년 이후 290% 이상 급증했습니다. 이러한 사이트에는 유명인과 정치인뿐만 아니라 자신의 모습이 동의 없이 이용당한 일반인들도 등장합니다.

법적 보호의 부족

인공지능(AI)으로 생성된 가짜 음란물의 피해자들은 딥페이크 음란물을 규제하는 연방법이 없어 구제받을 길이 제한적dent . 소수의 주에서만 관련 규정을 제정했을 뿐, 법적 공백이 심각합니다. 바이든 대통령의 최근 AI 관련 행정명령은 기업들에게 AI 생성 콘텐츠에 대한 표시를 권고하는 내용이지만, 의무 사항은 아닙니다. 법률 전문가들은 AI로 생성된 가짜 이미지가 방대한 데이터 세트를 기반으로 만들어지기 때문에 개인의 초상권에 대한 저작권 보호 대상이 아닐 수 있다고 주장합니다.

특히 여성과 청소년이 위험에 처해 있습니다

인공지능(AI)으로 생성된 가짜 누드 이미지는 여성과 청소년에게 심각한 위험을 초래할 수 있으며, 이들은 갑작스러운 노출에 대한 대비 없이 당황하는 경우가 많습니다. 딥페이크 모니터링 회사인 센시티 AI(Sensity AI)의 연구에 따르면 딥페이크 이미지의 96%가 음란물이며, 그중 99%가 여성을 대상으로 하고 있습니다. 제네비브 오(Genevieve Oh)가 가짜 음란물을 호스팅하는 상위 10개 웹사이트를 조사한 결과, 2023년 한 해에만 41만 5천 개 이상의 가짜 누드 이미지가 업로드되었고, 조회수는 약 9천만 회에 달했습니다.

인공지능이 제작한 포르노 영상의 폭발적인 증가

인공지능(AI)으로 제작된 포르노 영상이 웹상에서 급증하고 있습니다. 2023년에는 딥페이크 콘텐츠를 제공하는 가장 인기 있는 웹사이트 40곳에 14만 3천 개 이상의 가짜 영상이 추가되었는데, 이는 2016년부터 2022년까지 추가된 영상 총수를 넘어선 수치입니다. 이러한 영상들은 42억 회 이상의 조회수를 기록했습니다. 연방수사국(FBI)은 성적 착취 범죄가 증가하고 있다고 경고했으며, 9월 현재 2만 6천 8백 명 이상이 이른바 '섹스토션(성착취)'의 피해자가 되었습니다.

구글의 제한적인 보호 조치

인기 검색 엔진 구글은 동의 없이 촬영된 성적 이미지가 검색 결과에 나타나는 것을 막기 위한 정책을 시행하고 있습니다. 그러나 딥페이크 이미지에 대한 보호 조치는 이처럼 강력하지 않아 인공지능으로 생성된 가짜 음란물이 검색 결과에 자주 노출되고 있습니다. 구글은 이러한 보호 조치를 강화하기 위해 노력하고 있으며, 개별 사용자의 콘텐츠 삭제 요청 없이도 이용 가능한 안전장치를 구축하는 것을 목표로 하고 있습니다.

창작자에 대한 처벌의 어려움

인공지능(AI)으로 생성된 가짜 음란물 콘텐츠 제작자를 처벌하는 것은 어려운 일입니다. 통신품위법 제230조는 소셜 미디어 기업이 자사 플랫폼에 게시된 콘텐츠에 대해 책임을 지지 않도록 규정하고 있어, 웹사이트들이 이러한 이미지를 단속할 동기가 부족합니다. 피해자는 자신의 모습이 담긴 콘텐츠 삭제를 요청할 수 있지만, AI 생성 콘텐츠는 방대한 데이터 세트를 활용하기 때문에 저작권 침해나 초상권 침해를 입증하기 어렵습니다.

주 차원의 노력과 다양한 규정

캘리포니아, 텍사스, 버지니아를 포함한 최소 9개 주에서 딥페이크를 겨냥한 법률을 제정했습니다. 그러나 이러한 법률들은 적용 범위가 제각각이며, 일부 주에서는 피해자가 형사 고발을 할 수 있도록 허용하는 반면, 다른 주에서는 민사 소송만 허용하고 있습니다. 법적 조치를 위해 책임 당사자를dent하는 것은 복잡한 작업이 될 수 있습니다.

더욱tron규제의 필요성

인공지능이 생성한 이미지와 동영상을 규제하려는 움직임은 주로 대량 유포를 막고 선거 개입과 관련된 우려를 해소하는 데 목적이 있습니다. 그러나 이러한 규정은 소규모 그룹에서 공유되더라도 개인의 삶에 심각한 영향을 미칠 수 있는 딥페이크 음란물로 인한 피해를 완화하는 데는 거의 도움이 되지 않습니다.

인공지능(AI)으로 생성된 가짜 누드 사진의 확산은 특히 여성과 청소년의 사생활과 개인의 존엄성을 심각하게 위협합니다. 포괄적인 연방 법률의 부재와 이러한 콘텐츠 제작자에 대한 처벌의 어려움은 더욱tron규제와 보호 조치의 필요성을 강조합니다. AI 기술이 계속 발전함에 따라, AI로 생성된 가짜 음란물 문제에 대한 해결책 마련은 디지털 시대의 착취와 피해로부터 개인을 보호하는 데 더욱 중요해지고 있습니다.