AI 생성 딥페이크 누드 급증, 프라이버시와 생명에 위협

인공지능(AI) 도구들의 등장은 가짜 포르노 이미지와 영상의 심각한 증가를 부추기며, 프라이버시와 착취에 대한 중대한 우려를 제기하고 있습니다. 주로 여성과 청소년인 피해자들은 AI가 생성한 가짜 누드로 인한 노출에 대해 제대로 준비되지 않은 채 방치되어 있습니다.

프라이버시 침해

유튜브 인플루언서인 가비 벨(Gabi Belle)은 자신의 이미지가 인터넷상에서 유포되는 가짜 누드 사진에 사용되고 있다는 사실을 발견했습니다. 이 이미지는 그녀가 그러한 콘텐츠에 절대 동의하지 않았음에도 불구하고 그녀를 불리한 상황에 처하게 보여주었습니다. 벨의 경험은 독특하지 않습니다. 많은 유명인과 일반 청소년들을 포함해 수많은 개인들이 AI 생성 가짜 누드의 피해자가 되었습니다. 이러한 가짜 이미지는 수치심을 유발하거나 금전을 갈취하거나 사적인 공상을 표출하는 수단으로 사용될 수 있습니다.

가짜 누드의 전례 없는 성장

인공지능은 가짜 포르노 이미지와 영상의 전례 없는 붐을 가능하게 했습니다. AI 생성 포르노 사진을 호스팅하는 것으로 알려진 상위 10개 웹사이트에서, 2018년 이후 가짜 누드의 수가 290% 이상 급증했습니다. 이는 업계 분석가 제네비브 오(Genevieve Oh)의 주장입니다. 이러한 사이트에는 유명인과 정치인뿐만 아니라 동의 없이 초상권이 침해된 무고한 개인들도 포함되어 있습니다.

법적 보호의 부재

AI 생성 가짜 포르노의 피해자들은 딥페이크 포르노를 규제하는 연방 법규의 부재로 인해 구제 수단이 제한적입니다. 소수의 주에서만 규정이 제정되어 상당한 법적 공백이 존재합니다. 바이든 대통령의 최근 AI 행정명령은 기업들이 AI 생성 콘텐츠를 표시하도록 권장하지만, 이를 의무화하지는 않습니다. 법학자들은 AI가 생성한 가짜 이미지가 방대한 데이터셋을 기반으로 하므로 개인 초상에 대한 저작권 보호 대상에 포함되지 않을 수 있다고 주장합니다.

여성 및 청소년이 특히 위험

AI 생성 가짜 누드는 여성과 청소년에게 심각한 위험을 초래하며, 이들은 갑작스러운 노출에 대해 종종 준비가 되어 있지 않습니다. 딥페이크 모니터링 기업인 센시티 AI(Sensity AI)의 연구에 따르면, 딥페이크 이미지의 96%가 포르노그래픽이며, 그중 99%가 여성을 대상으로 합니다. 가짜 포르노 이미지를 호스팅하는 상위 10개 웹사이트를 분석한 제네비브 오(Genevieve Oh)의 조사에 따르면, 2023년 한 해 동안 415,000개 이상의 이러한 이미지가 업로드되었으며, 조회수 수는 거의 9,000만 건에 달했습니다.

AI 생성 포르노 영상의 폭발적 증가

AI 생성 포르노 영상도 웹 전반에 걸쳐 급증했습니다. 2023년 딥페이크 콘텐츠를 다루는 가장 인기 있는 웹사이트 40곳에는 143,000개 이상의 가짜 영상이 추가되었으며, 이는 2016년부터 2022년까지의 신규 영상 총수를 초과한 수치입니다. 이러한 영상들은 42억 건 이상의 조회수를 기록했습니다. 연방수사국(FBI)은 성적인 협박(sexual extortion)이 증가하고 있으며, 9월 기준 26,800명 이상이 '섹스톨레이션(sextortion)' 캠페인의 피해자가 되었다고 경고했습니다.

구글의 제한된 보호 조치

인기 검색 엔진인 구글은 비동의 성적인 이미지가 검색 결과에 나타나지 않도록 방지하는 정책을 마련하고 있습니다. 그러나 딥페이크 이미지에 대한 보호 조치는 그다지 강력하지 않아, AI 생성 가짜 포르노가 검색 결과에서 두드러지게 나타나는 경우가 있습니다. 구글은 이러한 보호 조치를 강화하기 위해 노력 중이며, 콘텐츠 삭제를 위한 개별 요청 없이도 작동하는 안전 장치를 구축하는 것을 목표로 하고 있습니다.

제작자 처벌의 어려움

AI 생성 가짜 포르노 콘텐츠 제작자를 처벌하는 것은 어려운 일로 입증되고 있습니다. 통신법규법(Communications Decency Act) 제230조는 소셜 미디어 회사가 플랫폼에 게시된 콘텐츠에 대한 책임을 지지 않도록 보호하여, 웹사이트 측이 이러한 이미지를 단속할 동기를 거의 제공하지 않습니다. 피해자는 자신의 초상권 삭제를 요청할 수 있지만, AI 생성 콘텐츠는 광범위한 데이터 세트를 기반으로 하므로 저작권 침해나 초상권 침해를 입증하는 것이 어렵습니다.

주 차원의 노력과 다양한 규제

캘리포니아, 텍사스, 버지니아를 포함한 최소 9개 주가 딥페이크를 대상으로 하는 입법을 통과시켰습니다. 그러나 이러한 법률의 범위는 서로 다르며, 일부는 피해자가 형사 고소를 할 수 있도록 허용하는 반면, 다른 일부는 민사 소송만 허용합니다. 법적 조치를 취할 책임 있는 당사자를 식별하는 것은 복잡한 작업이 될 수 있습니다.

더 강력한 규제의 필요성

AI 생성 이미지와 영상을 규제하려는 움직임은 주로 대량 배포를 방지하고 선거 개입과 관련된 우려를 해소하는 데 주력합니다. 그러나 이러한 규칙은 소규모 그룹 내에서 공유되더라도 개인의 삶에 심각한 영향을 미칠 수 있는 딥페이크 포르노로 인한 피해를 완화하는 데는 큰 도움이 되지 않습니다.

AI 생성 가짜 누드의 확산은 특히 여성과 청소년에게 있어 사생활과 개인적 존엄성에 대한 중대한 위협을 나타냅니다. 포괄적인 연방 법률의 부재와 이러한 콘텐츠 제작자에 대한 처벌의 어려움은 더 강력한 규제와 보호 조치의 시급한 필요성을 강조합니다. AI가 계속 발전함에 따라, 디지털 시대에 개인을 착취와 피해로부터 보호하기 위해 AI 생성 가짜 포르노 문제를 해결하는 것이 점점 더 중요해지고 있습니다.