독일, 허위 AI 홀로코스트 이미지 유포에 대해 소셜 플랫폼 경고

독일은 허위 AI 홀로코스트 이미지의 유포와 관련해 소셜 미디어 플랫폼에 경고를 보냈습니다. 정부와 홀로코스트 기념 기관들은 역사 왜곡 및 경시 행위를 자행한다고 주장하는 가짜 이미지의 확산을 막기 위해 소셜 미디어 플랫폼에 조치를 취할 것을 요청했습니다.

최근 편지에서는 홀로코스트 기념비 및 문서화 센터들이 나치 독일이 제2차 세계 대전 중 독일에서 600만 명 이상의 유대인을 학살한 사건과 관련해, 이른바 AI 슬롭(허위 이미지)의 급증에 비판을 표명했습니다. 이러한 이미지에는 수용소 수감자와 해방자들의 만남, 또는 철조망 울타리 뒤의 어린이들 등 발명된 사건의 감정적인 일러스트레이션이 포함됩니다.

독일, 허위 AI 홀로코스트 이미지 유포 차단 시도

기관들이 보낸 편지에서 그들은 주목할 점은 AI가 생성한 콘텐츠가 오래전에 발생한 심각한 사건들을 경시함으로써 역사를 왜곡한다고 지적했습니다. 그들은 이러한 이미지들이 진위 역사 문서의 사용자들 사이에서 불신을 조장할 수 있다고 언급했습니다. 독일의 문화 및 미디어 담당 주정부 장관인 볼프람 바이머는 이 경우 기념비 기관들이 취한 조치와 노력을 지지한다고 밝히며, 이것이 취해야 할 올바른 조치라고 밝혔습니다.

볼프람은 또한 고대 사건과 관련된 AI 생성 이미지에 마킹을 하고 필요시 소셜 미디어 플랫폼에서 삭제하기로 한 그들의 결정을 지지한다고 언급했습니다. 그는 이것이 나치 독일의 테러 정권 하에서 학살과 박해를 당한 수백만 명의 사람들에 대한 존중의 문제라고 밝혔습니다. 기념 기관들의 편지에 따르면, 이미지 제작자들은 온라인에서 주목을 받고 수익을 창출하기 위해 이러한 이미지를 사용한 것으로 보입니다.

기관들은 또한 가해자들이 사실을 희석시키고 피해자와 가해자의 역할을 전도하며, 수정주의적 서사를 확산시키려 했다고 언급했습니다. 이 기관들에는 벨젠, 부헨발트, 다하우 등 유대인뿐만 아니라 로마인과 신티족 등 다른 집단들이 학살된 수용소들의 기념 센터들이 포함됩니다. 그들은 소셜 미디어 플랫폼들이 사용자들의 신고를 기다리기보다는 홀로코스트와 관련된 허위 AI 이미지에 대해 선제적으로 대응할 것을 요청했습니다.

홀로코스트 관련 기관들, AI 생성 이미지에 라벨링 요구

또한 그들은 플랫폼들이 이를 명확히 라벨링할 것을 요청했는데, 이는 이미지를 생성한 사용자들이 이를 수익화하는 것을 방지할 수 있다고 믿기 때문입니다. 가짜 텍스트, 이미지, 비디오를 포함하는 저품질 AI 슬롭의 확산은 많은 전문가들 사이에서 경고를 불러일으켰습니다. 그들은 이것이 정보 환경을 오염시켜 사용자가 진위와 거짓을 구분하기 어렵게 만들 것이라고 믿습니다. 이 사건은 일론 머스크의 xAI를 비롯한 AI 기업들이 현재 그록이라는 채팅봇을 소유하며 대응하고 있는 사건에 이어 발생한 것입니다.

이 회사는 지난 몇 주 동안 특정 사용자가 수천 건의 성적으로 노골적인 딥페이크 이미지를 생성하여 여러 소셜 미디어 플랫폼에 유포한 것에 대해 압박을 받아 왔습니다. 이 위협으로 인해 여러 국가의 지도자들이 해당 기업에 책임을 묻고 있으며, 다른 이들은 이러한 사건을 처리하기 위한 적절한 안전 장치를 개발할 것을 요청했습니다. 인도네시아와 같은 국가들도 모든 문제가 해결될 때까지 해당 채팅봇에 대한 임시 금지령을 발표했습니다.

한편, 해당 플랫폼은 Grok 및 X 사용자가 불법으로 간주되는 지역에서 타인의 딥페이크를 생성하는 기능을 지리적 차단(geo-block)할 것이라고 확인했습니다. 그러나 이러한 새로운 안전 장치가 자체 애플리케이션에 적용될지, 아니면 웹사이트에만 적용될지는 아직 불분명합니다. 또한 이러한 조치가 사용자들이 이러한 유형의 이미지를 생성하는 것을 완전히 막을지, 아니면 새로운 접근 방법을 모색하도록 유도할지도 지켜봐야 합니다.