인도 국민회의(INC)와 인도 인민당(BJP)이 공식 인스타그램 계정에 인공지능(AI)을 활용한 정치 콘텐츠를 게시하기 시작했습니다. 인공지능을 정치 메시지 제작 및 유포에 활용하는 것은 시각적 정치의 패러다임 전환을 의미하며, 투명성과 정보 공개에 대한 의문을 제기합니다.
2월 20일, 인도 국민회의(INC)는 인스타그램에 나렌드라 모디 총리를 풍자하는 영상을 공개했습니다. 이 영상은 '도둑(Chor)'이라는 제목의 힌디어 음악 앨범을 통해 모디 총리를 패러디한 것으로, 150만 회 이상 조회되었습니다. 영상은 한 재벌이 절도를 시도하는 장면을 코믹하게 묘사하고, 모디 총리가 중요한 자산을 넘겨주는 듯한 모습을 보여줍니다. 영상은 극사실적이지는 않지만, 인공지능(AI)으로 생성된 밈을 활용하여 모디 총리의 목소리와 얼굴 특징을 이용해 그가 재벌들과 유착 관계를 맺고 있다는 의혹을 강조합니다.
이에 대응하여 인스타그램 팔로워 700만 명 이상을 자랑하는 BJP는 모디 총리의 지난 9년간의 업적을 보여주는 1분짜리 영상을 게시했습니다. 이 영상의 특징은 인공지능(AI)이 생성한 음성이 애국적인 힌디어 노래를 부르며 농민과 인도 과학자들을 위한 모디 총리의 공헌을 강조한다는 점입니다. 법의학 전문가들이 AI가 생성한 것으로 확인한 이 음성은 인도 정당들 사이에서 상당한 이례를 나타냅니다.
AI 전쟁은 플랫폼 정책에 도전 과제를 제기합니다
알자지라의 조사에 따르면 2월 20일 이후 양대 정당의 공식 인스타그램 계정에서 인공지능(AI)으로 제작되거나 변형된 콘텐츠가 최소 3건 발견되었습니다. 유튜브와 페이스북에도 게시된 해당 영상들은 기만적인 정치 콘텐츠에 대한 플랫폼 정책의 한계를 드러냅니다. 메타(Meta)의 현행 규정은 광고주에게 정치 광고에 AI를 사용하는 경우 이를 공개하도록 의무화하고 있지만, 이 조항은 정치 관련 페이지 및 계정에는 적용되지 않습니다.
메타는 AI 라벨링 정책에 대한 문의에 답변하지 않았지만, 감독위원회는 메타에 조작된 미디어 정책을 확대하여 가짜 오디오를 포함하고 오해의 소지가 있는 콘텐츠에 라벨을 부착할 것을 촉구했습니다. 한편, 유튜브는 2023년 11월 블로그 게시물에서 밝힌 바와 같이, 크리에이터들이 사실적으로 변형되거나 합성된 콘텐츠에 AI를 사용했음을 공개하도록 요구할 계획입니다.
dent 딥페이크 조작 흔적에도 불구하고, 인도 국민회의(INC)의 해당 영상은 온라인에서 큰 웃음을 자아냈으며, 이는 정치 커뮤니케이션에서 인공지능(AI) 기반 밈의 영향력이 커지고 있음을 보여줍니다. 2024년 총선을 위한 INC 커뮤니케이션 전략실의 바이바브 왈리아 위원장은 소셜 미디어에서 당의 메시지를 전달하는 데 있어 밈 기반 커뮤니케이션의 효과를 강조했습니다. 그는 AI 활용이 밈 중심의 소셜 미디어 트렌드 시대에 유권자들의 관심을 사로잡는 독창적인 콘텐츠를 제작해야 하는 필요성과 일맥상통한다고 언급했습니다.
하지만 BJP가 공개한 인공지능(AI) 의심 영상은 전문가들에게 난제를 안겨주었고, 영상 내용이 AI로 보정된 것인지에 대한 의견은 분분했습니다. 당 대변인 가우라브 바티아는 이 문제에 대해 침묵을 지켰습니다. 전문가들이 확인한 바에 따르면, 1970년대 힌디어 노래를 AI로 재현한 영상은 검색 기반 음성 변환(RVC) 모델을 사용하여 원음을 전설적인 가수 마헨드라 카푸르의 목소리로 인위적으로 변환한 것으로 나타났습니다.
정치 AI 콘텐츠에 대한 의무적 정보 공개를 촉구합니다
정치 조직들이 콘텐츠 제작에 인공지능(AI)을 점점 더 많이 활용함에 따라, 전문가들은 정치 페이지에서 AI로 편집된 콘텐츠를 의무적으로 공개해야 한다고 주장합니다. AI가 현실을 빠르게 모방할 수 있는 능력을 고려할 때, 이러한 공개는 잠재적인 허위 정보 확산을 막는 데 매우 중요합니다. 그러나 인도 선거관리위원회는 정당들이 AI로 수정된 콘텐츠를 공유하는 것과 관련한 지침에 대해 침묵을 유지하고 있습니다.
정보 왜곡 연구자인 타루니마 프라바카르는 인공지능(AI)이 생성한 콘텐츠가 현실을 더욱 설득력 있게 모방할 수 있게 됨에 따라 정보 공개의 필요성을 강조했습니다. 딥페이크 기술을 포함한 AI 기반 정치 풍자는 표현의 자유를 보장하기 위해 보호받아야 합니다. 특히 민주주의 사회에서는 풍자와 허위 정보를 명확히 구분하는 규제가 필요하기 때문에 명확한 정보 공개의 중요성이 더욱 커집니다.
인도의 정당들이 콘텐츠 제작에 인공지능(AI)을 적극적으로 도입하면서 정치 커뮤니케이션의 지형이 혁신적으로 변화하고 있습니다. 정치적 메시지에 AI를 사용하는 데 따른 윤리적 문제와 탐지 및 공개의 어려움은 섬세한 접근 방식을 요구합니다. 기술이 발전함에 따라 정치적 담론 형성에 있어 AI의 책임 있는 사용을 보장하기 위한 규제와 투명성 조치 또한 발전해야 합니다. AI를 활용한 정치 콘텐츠의 등장은 급변하는 디지털 시대에 혁신과 윤리적 고려 사이의 미묘한 균형을 요구하는 중요한 전환점입니다.
