중국의 AI가 인도, 미국, 한국의 선거 무결성을 위협하다

AI의 기술적 진보는 선거 영향력의 원천이 논의될 때 AI가 선거 필터로 사용될 경우 윤리적 문제가 되는 방식으로 AI가 적용되고 있음을 보여줍니다. 

마이크로소프트의 경고와 평가

마이크로소프트의 위협 인텔리전스 유닛(Threat Intelligence Unit)은 보고서에서 중국이 2024년 선거 기간 중 국가 후원 해킹 그룹의 배후에 있을 가능성이 가장 큰 국가라고 지적했으며, 선거 시스템 침투는 북한이 주 선거 기관의 시스템에 접근하는 데 사용할 수 있는 경로일 가능성이 높다고 밝혔습니다. 그러나 이 경고는 중국이 대만 총통 선거에서 AI를 사용하여 선거 결과에 영향을 미친 후에 나왔습니다.

계획의 개발 및 구현에는 AI 기술도 활용되었습니다. 가짜 오디오 지지 성명, 밈(meme) 등 일부 AI 생성 콘텐츠가 특정 후보자를 나쁘게 보이게 하거나 유권자에게 특정 방식으로 영향을 미쳤기 때문입니다. 미국 또한 중국을 자국 정치에 활용하려고 시도했습니다. 보고서에 따르면 중국 그룹은 특정 유권자 집단을 대상으로 유사한 허위 정보 캠페인을 수행하면서도 동시에 정당성 있는 자료를 게시했습니다. 반면, 이 주제에 대한 연구는 이러한 대규모 여론 변화가 발생했다는 주장을 뒷받침할 충분한 증거를 제공하지 못합니다.

2024년 뉴햄프셔 민주당 전당대회 직전, 조 바이든 대통령의 목소리를 사칭한 AI 생성 음성 메시지가 잠재적 유권자들에게 선거에 참여하지 말라고 호소합니다. 이 사건이 중국과 관련이 없으며 AI가 민주주의에 제기하는 위험을 보여주기 위한 것이라고 주장되지만, 이 사건은 AI가 민주적 규칙에 제기하는 잠재적 위협을 드러냅니다.

인도 선거에 대한 함의

4월 19일부터 대통령 선거가 시작되는 미국과 마찬가지로, 인도에서도 선거에 대한 AI 간섭이 위협으로 지적되고 있습니다. 이는 사이버 공격 증가와 함께 인도 선거의 신성함을 사이버 공격으로부터 보호하기 위한 예방 조치 강화가 시급히 필요하다는 사실을 명확히 보여줍니다. 전체 과정이 7단계로 구성되어 있으므로, 4월 19일부터 6월 1일까지 AI가 투표 과정에 간섭하는 역할에 대한 우려는 정당해 보입니다.

세계에서 가장 큰 민주주의 국가인 인도는 다른 출처에서의 침입으로부터 선거 시스템의 일관성을 유지하는 데 다양한 도전에 직면해 있습니다. 이러한 AI 생성 콘텐츠는 유권자의 인식을 조작하여 역설적으로 민주적 과정의 정당성을 무시함으로써 유권자들이 선거에 대한 신뢰를 잃게 할 수 있습니다.

대규모 선거의 글로벌 트렌드 중 하나의 핵심 측면은 인공지능 생성 콘텐츠가 만들어내는 위험입니다. 정부, 기술 제공자, 인권 단체는 이 문제를 최고 수준에서 다뤄야 합니다. 이러한 가짜의 확산을 즉시 발견하고 차단하기 위한 강력한 이니셔티브를 수립하기 위해 조화로운 노력이 필요합니다. 따라서 다가오는 인도 선거의 최우선 과제는 공정하고 정직하며 투명한 절차를 제공하는 것입니다. 기본 요소는 기본적으로 AI 조작으로부터의 보장을 제공하고, 디지털 시대에 민주주의를 보존하기 위한 교육, 문해력, 디지털 캠페인 및 유권자 인식 제고 노력을 보장해야 합니다.

선거 과정에서 민주주의와 무결성의 기둥을 무너뜨릴 가능성까지 있는 이 심각한 위협은, 네트워크에 대한 지속적인 감시와 이해관계자들의 능동적인 태도를 통해 행위자들 간의 협력을 발전시켜 허위 콘텐츠 확산이 좋은 민주주의 개념에 끼칠 수 있는 피해를 방지합니다.

출처: https://blogs.microsoft.com/on-the-issues/2024/04/04/china-ai-influence-elections-mtac-cybersecurity/