최근 인공지능(AI)을 이용해 정치적 목적으로 가짜 이미지를 제작하는 사례가 주목받고 있습니다. 2024년 미국dent이 다가오면서 도널드 트럼프 지지자들이 AI로 생성된 이미지를 이용해 흑인 유권자들을 트럼프 지지자로 둔갑시키는 사례가 적발되었습니다. 이러한 전략은 아프리카계 미국인 유권자들의 표를 공화당으로 돌리려는 의도로 보입니다.
딥페이크가 정치에 등장하다
BBC 파노라마의 조사에 따르면, 흑인들이 트럼프를 지지하는 것처럼 보이게 만든 수많은 딥페이크 이미지가 제작 및 유포되었습니다. 이 이미지들은 인공지능(AI)을 이용해 만들어져 언뜻 보기에는 실제처럼 보입니다. 그러나 자세히 살펴보면, 과도하게 빛나는 피부나 손가락이 없는 등의 특징을 통해 인공적인 조작임을 알 수 있습니다.
트럼프는 2020년 조 바이든의 승리에 중추적인 역할을 했던 흑인 유권자들의 표심을 얻기 위해 적극적으로 노력해 왔습니다. 트럼프의 선거 운동과 직접적인 연관성은 없지만, 이러한 가짜 이미지는 트럼프가 흑인 사회에서 인기가 많다는 인상을 심어주려는 더 큰 노력의 일환으로 해석됩니다.
자국에서 시작된 트렌드
외국 개입이 주요 의혹이었던 2016년 대선과는 달리, dent 는 미국 유권자들이 만든 것으로 보인다. 플로리다의 보수 라디오 진행자 마크 케이는 백만 명이 넘는 팔로워를 보유한 자신의 페이스북
케이의 사진은 트럼프와 흑인 지지자들을 함께 묘사한 것으로, 트럼프에 대한 흑인 유권자들의 지지를 다룬 기사에 첨부하기 위해 제작되었습니다. 사진의 부정확성에도 불구하고 케이는 자신을 사진기자가 아닌 스토리텔러라고 칭하며 자신의 행동을 옹호했습니다.
소셜 미디어의 양날의 검
소셜 미디어 플랫폼에서 이러한 AI 이미지가 확산되면서 콘텐츠 제작자의 책임과 사용자들의 순진함에 대한 논쟁이 촉발되었습니다. 일부 이미지는 trac을 일으키며 실제처럼 받아들여져 허위 정보에 기반한 여론 형성에 영향을 미칩니다. 이 문제는 소셜 미디어 플랫폼이 AI 기반 허위 정보에 대응하는 데 있어 직면한 과제를 부각합니다.
흑인 유권자에게 미치는 영향
흑인 유권자를 겨냥한 이러한 전술은 새로운 것이 아닙니다. 흑인 유권자 권리 옹호 단체인 Black Voters Matter의 공동 설립자 클리프 올브라이트는 흑인 사회, 특히 젊은 유권자를 겨냥한 허위 정보 유포가 다시 활발해지고 있다고 지적합니다. 이러한 시도는 전략적인 것으로, 트럼프의 흑인 유권자 인기가 높다는 거짓된 이야기를 퍼뜨려 민주당 후보들의 지지 기반을 약화시키려는 의도를 가지고 있습니다.
전술의 변화
2016년 트럼프의 당선 이후 정치 지형은 크게 변화했습니다. 외국이 가짜 계정을 통해 선거에 영향을 미치려는 시도부터 2020년 선거 부정 의혹을 제기하는 국내 유포에 이르기까지, 인공지능(AI)이 생성한 콘텐츠의 등장으로 허위 정보 생태계는 더욱 복잡해졌습니다.
전문가들은 2024년 선거에서 국내외의 위험한 조작이 결합될 가능성을 경고하고 있습니다. 메타(Meta)의 전 임원이었던 벤 님모는 인플루언서와 소셜 미디어 사용자들이 자신도 모르게 허위 정보를 퍼뜨리지 않도록 경각심을 가져야 한다고 강조합니다.
소셜 미디어 기업들의 반응
주요 소셜 미디어 플랫폼들은 영향력 행사 공작에 대응하기 위한 정책들을 시행해 왔으며, 여기에는 인공지능(AI) 생성 콘텐츠 처리 방안도 포함됩니다. 그러나 정치적 편향성을 가진 자들과 선동가들이 자신들의 목적을 위해 이러한 플랫폼을 악용하는 새로운 방법을 계속해서 찾아내고 있기 때문에, 이러한 정책들의 효과는 아직 완전히 드러나지 않았습니다.
미국이 또 다른 선거의 해를 앞두고 있는 가운데, 진짜와 가짜를 구별하는 문제는 그 어느 때보다 중요해졌습니다. 인공지능을 이용한 딥페이크 제작 은 선거 과정의 공정성을 심각하게 위협합니다. 따라서 개인, 소셜 미디어 기업, 그리고 규제 기관 모두가 힘을 합쳐 첨단 기술 조작으로 민주주의 절차가 훼손되지 않도록 해야 합니다.
