AI 이미지가 선거를 이길 수 있는가? Milei의 승리는 생성형 AI에 대한 질문을 제기합니다

아르헨티나 대통령 선거에서 Javier Milei의 대통령 당선은 정치적 전략의 승리가 아니었으며, 기술 사용에서의 패러다임 전환을 mark했습니다. 생성형 AI의 배포는 Milei와 그의 경쟁자 Sergio Massa가 유권자의 주의를 끌고 선거 결과에 영향을 미치기 위해 조작된 이미지와 비디오의 디지털 전쟁에 참여하는 데 있어 핵심 도구가 되었습니다.

치열한 캠페인 속에서 생성형 AI 사용이 중심에 서 있었으며, Milei의 팀은 Massa를 공산주의 군사 인물로 묘사하는 도발적인 이미지를 게시하여 소셜 미디어에서 무려 300만 번의 조회수를 기록했습니다. Darrell West(브루킹스 연구소 기술 혁신 센터 시니어 펠로우)가 지적했듯이, 정치 캠페인에서 AI 기술의 활용은 우려를 불러일으켰습니다.

캠페인에서의 AI의 영향

오른쪽 자유주의의 기치 아래, Milei는 56%의 득표율로 결정적인 승리를 거두며 정치 주류에 대한 대중의 불만을 자극했습니다. Milei의 팀이 사용한 AI 생성 콘텐츠는 Massa를 다양한 풍자적 시나리오로 묘사하며 내러티브 형성에 중요한 역할을 했습니다. 생성형 AI의 사용은 유권자와 감정적으로 공명하는 이미지와 비디오를 생성할 수 있게 하여, 소셜 미디어 플랫폼 전반에 빠르게 확산되었습니다.

반면, Massa의 팀은 'AI for the Homeland'라는 비공식 인스타그램 계정을 통해 생성형 AI를 활용했습니다. AI 생성 콘텐츠는 Massa를 로마 황제, 권투 선수로 묘사하는 것은 물론, 전쟁 영화 장면을 연상시키는 장면에 그를 배치하는 등 다양했습니다. AI 전장은 Milei와 그의 팀을 좀비와 해적으로 묘사하며 풍자를 통해 대중의 인식을 영향력 있게 변화시키는 데까지 확장되었습니다.

아르헨티나 선거에서 생성형 AI의 배포는 고립된 사건이 아니라 더 넓은 글로벌 추세의 일부입니다. Midjourney와 같은 플랫폼으로 대표되는 '생성형 AI' 도구의 등장은 저비용으로 조작된 이미지와 비디오를 생성할 수 있게 합니다. 정치 캠페인에서 이러한 기술의 윤리적 함의에 대한 우려는 아르헨티나를 넘어 미국, 인도네시아, 인도의 다가오는 선거에서도 유사한 도전에 직면하고 있습니다.

딥페이크와 민주주의의 위협

생성형 AI가 더 접근 가능하고 설득력 있게 됨에 따라, 딥페이크의 위험은 민주주의에 상당한 위협이 됩니다. 방대한 온라인 영상으로 훈련된 AI 알고리즘의 가변성은 이미지, 음성 녹음, 비디오를 포함한 사실적이지만 완전히 조작된 콘텐츠의 생성을 가능하게 합니다. 캠페인 동안 Massa가 마약을 사용하는 것을 falsely 묘사한 조작된 비디오의 최근 유포는 딥페이크가 허위 정보를 확산시키는 데 가진 위험한 잠재력을 예시합니다.

허위 정보 연구자와 소셜 미디어 플랫폼 간의 고양이와 쥐의 게임은 AI 생성 콘텐츠의 기만적인 본성과 싸우는 데 있어 도전을 보여줍니다. 딥페이크 이미지가 포함된 자료에 대한 공개 라벨 요구는 민주적 과정을 보호하기 위한 시급성을 강조합니다. Meta Platforms가 AI 수정 광고에 대한 공개를 의무화하기로 결정한 것은 디지털 캠페인에서 투명성의 필요성에 대한 인식이 커지고 있음을 나타냅니다.

생성형 AI 시대의 민주주의

생성형 AI가 지속적으로 진화함에 따라, 글로벌 선거에 대한 함의는 점점 더 깊어집니다. 기술과 정치의 교차점은 국가 경계를 초월하는 도전을 제기합니다. 실제와 가짜를 구분하는 것이 어려운 환경에서, 민주주의는 AI 기반 허위 정보의 시대에 적응하면서도 선거의 무결성을 어떻게 보존할 수 있을까요? 앞으로의 길은 생성형 AI의 조작적 잠재력으로부터 민주적 과정을 보호하는 강력한 규제 체계를 확립하기 위한 집단적 노력을 요구합니다.