독일, 인공지능을 이용한 가짜 홀로코스트 이미지 확산에 대해 소셜 플랫폼에 경고

독일 정부는 인공지능(AI)을 이용해 조작된 홀로코스트 이미지를 유포하는 소셜 미디어 플랫폼에 경고를 발령했습니다. 정부와 홀로코스트 기념 기관들은 소셜 미디어 플랫폼에 이러한 가짜 이미지의 확산을 막아달라고 요청했으며, 이는 역사를 왜곡하고 경시하는 행위라고 주장했습니다.

최근 나치 강제 수용소 기념관과 자료 센터들은 인공지능(AI) 제2차 세계 대전 중 독일에서 600만 명이 넘는 유대인을 학살한 사건과 관련하여dent강제 수용소 수감자와 해방자의 만남, 철조망 뒤의 아이들 등

독일은 인공지능으로 만들어진 가짜 홀로코스트 이미지의 확산을 막고자 한다

해당 단체들이 보낸 서한에서, 그들은 지적했습니다 . 또한 이러한 이미지가 진정한 역사 문서를 신뢰하지 않는 사람들의 불신을 조장할 수 있다고 언급했습니다. 볼프람 바이머 독일 문화미디어부 장관은 기념 기관들이 취한 조치와 노력에 대해 지지를 표명하며, 이는 올바른 조치라고 밝혔습니다.

볼프람은 또한 고대 사건에 대한 AI 생성 이미지를 표시하고 필요한 경우 소셜 미디어 플랫폼에서 삭제하기로 한 그들의 결정을 지지한다고 언급했습니다. 그는 이것이 나치 독일의dent정권 하에서 학살당하고 박해받은 수백만 명의 사람들에 대한 존중의 문제라고 말했습니다. 기념 기관들이 보낸 서한에 따르면, 그들은 해당 이미지 제작자들이 온라인에서 관심을 끌고 돈을 벌기 위해 이를 이용하는 것으로 보인다고 지적했습니다.

이 단체들은 가해자들이 사실을 왜곡하고, ​​피해자와 가해자의 역할을 바꾸고, 수정주의적 서사를 퍼뜨리려는 의도도 일부 있었다고 언급했습니다. 이 단체들에는 벨젠, 부헨발트, 다하우 등 유대인뿐만 아니라 로마인과 신티족을 포함한 다른 사람들이 학살당했던 강제 수용소의 기념관들이 포함됩니다. 이들은 소셜 미디어 플랫폼들이 사용자들의 신고를 기다리지 않고 홀로코스트 관련 가짜 AI 이미지에 대해 선제적으로 대응할 것을 촉구했습니다.

홀로코스트 관련 단체들은 AI가 생성한 이미지에 라벨을 붙이기를 원합니다

또한, 그들은 플랫폼 측에 해당 이미지들을 명확하게 표시해 줄 것을 요청했는데, 이는 이미지를 생성한 사용자가 이를 통해 수익을 창출하는 것을 막을 수 있을 것이라는 믿음 때문입니다. 가짜 텍스트, 이미지, 동영상 등을 포함한 저품질 AI 콘텐츠의 확산은 많은 전문가들 사이에서 우려를 불러일으키고 있습니다. 전문가들은 이러한 콘텐츠가 정보 환경을 오염시키고 사용자들이 진실과 거짓을 구분하기 어렵게 만들 것이라고 우려합니다. 이번dent 일론 머스크의 xAI(챗봇 그록을 소유한 회사)를 비롯한 AI 기업들이 현재 고심하고 있는 문제와 유사한 맥락에서 발생했습니다.

지난 몇 주 동안 일부 사용자들이 여성과 미성년자의 성적인 딥페이크 이미지를 수천 장 제작하여 여러 소셜 미디어 플랫폼에 유포하면서 해당 회사는 거센 압력을 받아왔습니다. 이러한 문제로 인해 여러 국가 에 대처하기 위한 적절한 안전장치를 마련할 것을 요구했습니다dent. 인도네시아와 같은 국가는 문제가 해결될 때까지 해당 챗봇 사용을 일시적으로 금지한다고 발표하기도 했습니다.

한편, 해당 플랫폼은 딥페이크 제작이 불법으로 규정된 지역에서 Grok 및 X 사용자들의 딥페이크 콘텐츠 생성 기능을 지리적으로 차단할 것이라고 밝혔습니다. 그러나 이러한 새로운 안전장치가 독립형 애플리케이션에 적용될지, 아니면 웹사이트에 적용될지는 아직 불확실합니다. 또한, 이러한 조치가 사용자들이 딥페이크 콘텐츠 생성을 완전히 막을 수 있을지, 아니면 다른 방법을 찾도록 유도할지도 지켜봐야 할 것입니다.