미국이 또 다른dent선거를 앞두고 있는 가운데, 정치적 허위 정보 확산에 대한 우려가 커지면서 인공지능(AI) 기업 미드저니(Midjourney)는 조 바이든과 도널드 트럼프 같은 유명 정치인의 이미지를 금지하는 방안을 검토하고 있습니다. 이러한 결정은 가짜 이미지와 딥페이크 제작 사건들이 잇따르면서, 이러한 콘텐츠가 여론과 선거 결과에 미칠 수 있는 잠재적 영향에 대한 우려가 커지고 있는dent에서 나온 것입니다.
허위 정보 위협에 대한 대응
인공지능 이미지 생성 도구로 유명한 미드저니(Midjourney)가 기술을 이용해 여론을 조작할 수 있다는 논란의 중심에 섰습니다. 보도에 따르면, 미드저니는 정치인, 특히 대중을 오도하거나 허위 정보를 퍼뜨릴 가능성이 있는 인물을 묘사한 이미지의 제작 및 배포를 금지하는 방안을 검토 중인 것으로 알려졌습니다. 이러한 움직임은 인공지능으로 생성된 콘텐츠가 선거철 정치적 이득을 취하거나 분열을 조장하는 데 악용될 위험을 줄이기 위한 선제적 조치로 해석됩니다.
Midjourney CEO 성명 및 플랫폼 정책
미드저니(Midjourney)의 CEO인 데이비드 홀츠는 디스코드 채팅 세션에서 회사의 의도를 전달한 것으로 알려졌습니다. 그는 트럼프와 같은 유명 인사를 활용한 이미지를 제작하는 것이 매력적일 수 있음을 인정하면서도, 특히 현재의 정치적 상황에서는 신중을 기하는 것이 중요하다고 강조했습니다. 미드저니는 이미 유명 인사나 유명 행사의 이미지 사용을 제한하는 등 허위 정보 유포를 방지하기 위한 정책을 시행하고 있지만, 정치적 이미지 사용 금지 가능성은 허위 정보 퇴치에 있어 더욱 적극적인 입장을 의미합니다.
도전과 한계
미드저니는 AI 도구 사용을 규제하려는 노력에도 불구하고, 가짜 이미지와 딥페이크 확산을 효과적으로 억제하는 데 어려움을 겪고 있습니다. 블룸버그의 조사에 따르면, 미드저니는 허위 콘텐츠 제작을 방지하기 위한 규칙을 시행했지만, 여전히 허점이 남아 있어 변조된 이미지가 특정 제한을 우회하는 것으로 나타났습니다. 또한, 특정 정치 이미지를 금지하는 것의 효과는 불확실한데, 이는 AI 기반 허위 정보 유포 캠페인과 그것이 선거의 공정성에 미칠 수 있는 잠재적 영향이라는 근본적인 문제를 해결하지 못할 수 있기 때문입니다.
업계 전반의 허위 정보 퇴치 노력
미드저니의 논의는 정치적 허위 정보에 맞서 싸우기 위한 기술 업계 전반의 광범위한 노력과 맥락을 같이합니다. ChatGPT와 Meta 같은 플랫폼은 AI가 생성한 콘텐츠를 식별하거나 표시하는 전략을 모색하여 사용자가dent으로 기만적인 미디어를 식별할 수 있는 도구를 제공하고자 합니다. 그러나 이러한 조치가 조작된 콘텐츠를dent데 도움이 될 수는 있지만, AI 기술이 공공 담론을 형성하고 선거에 영향을 미치는 데 악용되는 복잡한 문제를 완전히 해결하지는 못할 수 있습니다.
