전 세계 선거에서의 AI 기반 허위정보 확산 위협 증가

전 세계적으로 선거가 진행됨에 따라, 강력한 무기인 인공지능을 wield하는 외국 행위자들로부터 진화하고 치명적인 위협에 직면하고 있습니다. 선거 영향력의 영역은 2016년 러시아의 허위 정보 캠페인이 소셜 미디어를 통해 미국 대통령 선거를 표적으로 삼으면서 새로운 단계에 진입했습니다. 이후 몇 년 동안 중국과 이란과 같은 국가들도 소셜 미디어를 사용하여 미국과 세계 여러 지역의 선거에 영향을 미쳤습니다. 2023년과 2024년을 앞두고 있지만, 새로운 요소가 추가되었습니다. 허위 정보의 영향을 증폭시킬 잠재력을 가진 생성형 AI와 대규모 언어 모델이 그것입니다.

AI 기반 선동의 힘

ChatGPT와 더 강력한 GPT-4로 대표되는 생성형 AI 도구는 다양한 어조와 관점에서 방대한 양의 텍스트를 빠르게 생성할 수 있습니다. 이는 인터넷 시대의 선동에 독특하게 적합하게 만듭니다. 이러한 기술이 허위 정보 캠페인에 미치는 정확한 영향은 불확실하지만, 세계는 곧 그 영향력을 목격하게 될 것입니다.

선거 시즌이 민주주의 세계를 휩쓸고 있으며, 많은 국가들이 전국 선거를 치르고 있습니다. 이러한 선거는 이전에 소셜 미디어 영향력 작전에 관여했던 국가들에게 막대한 중요성을 지닙니다. 예를 들어, 중국의 이해관계는 대만, 인도네시아, 인도 및 수많은 아프리카 국가들로 확장되며, 러시아는 영국, 폴란드, 독일 및 유럽 연합을 감시합니다. 미국은 다양한 행위자들의 초점입니다. 외국 영향력의 비용이 감소함에 따라, ChatGPT와 같은 도구들이 선동 제작을 저렴하게 만들면서 더 많은 국가들이 무대에 합류할 수 있습니다.

선거 간섭과 변화하는 지형

모든 미국 사이버 보안 기관의 대표들이 참석한 최근 컨퍼런스에서 2024년 선거 간섭에 대한 기대에 대한 논의가 중심이 되었습니다. 러시아, 중국, 이란과 같은 익숙한 행위자들 외에도 '국내 행위자'라는 새로운 범주가 등장했습니다. 이 변화는 AI 기반 허위 정보 캠페인과 관련된 비용 감소의 직접적인 결과입니다.

콘텐츠 생성을 넘어선 과제

AI가 콘텐츠 생성을 용이하게 하지만, 배포는 선동가들에게 여전히 핵심적인 과제입니다. 가짜 계정은 콘텐츠가 바이럴이 될 때까지 게시하고 증폭하는 데 중요한 역할을 합니다. 메타와 같은 기업들은 최근 중국 영향력 캠페인에 대한 단속을 통해 이러한 계정을 식별하고 제거하는 능력을 개선했습니다. 그러나 허위 정보는 여전히 군비 경쟁 상태입니다. 소셜 미디어 플랫폼이 변화함에 따라 선동 매체들도 텔레그램과 왓츠앱과 같은 메시징 플랫폼으로 이동하며 감지와 제거를 더 어렵게 만듭니다. 중국이 통제하는 틱톡은 AI 생성 짧은 비디오를 위한 플랫폼을 제공하여 지형을 더욱 복잡하게 만듭니다.

생성형 AI 도구는 규모에 따른 저수준 선동과 같은 새로운 생산 및 배포 기술을 가능하게 합니다. 일상 생활과 관심사에 대해 게시하면서 가끔 정치적인 콘텐츠를 주입하는 소셜 미디어의 AI 기반 개인 계정을 고려해 보세요. 이러한 '페르소나 봇'은 개별적으로 최소한의 영향력을 지니지만, 대량으로 배포될 때 상당한 집단적 영향을 미칠 수 있습니다.

AI 스테로이드를 맞은 허위 정보

러시아와 중국과 같은 선거 간섭을 주도하는 군사实体들은 2016년식 전략을 넘어선 정교한 전술을 개발하고 있을 가능성이 높습니다. 이러한 국가들은 규모를 확대하기 전에 종종 소규모 국가들을 대상으로 사이버 공격과 정보 작전을 테스트합니다. 이러한 전술을 조기에 식별하고 카탈로그화하는 것은 새로운 허위 정보 캠페인에 대응하는 데 중요합니다.

AI 기반의 허위 정보 캠페인이 고도화됨에 따라, 미국은 대만의 정치 후보자를 비방한 딥페이크 오디오 녹음 사례와 같이 다른 국가들에서 AI가 생성한 선전물을 사전에 지문화하고 식별해야 합니다. 조기 탐지와 이해 없이는 이러한 캠페인이 국내에 도달하기 전까지 발견되지 않을 수 있습니다.

연구와 방어의 필요성

최근 일부 선거에서는 AI 기반 허위 정보로 인한 심각한 문제가 없었으나, 대비를 위해 조기 인식과 연구가 필수적입니다. 연구원들은 효과적인 방어 전략을 개발하기 위해 해외 캠페인에서 사용된 기법을 연구해야 합니다. 사이버 보안 커뮤니티는 공격 방법과 그 효과성을 공유하는 것이 견고한 방어 시스템을 구축하는 데 중요하다고 인식하고 있습니다.

선거에서의 AI 기반 허위 정보 위협이 증가함에 따라, 선제적이고 정보에 기반한 접근이 필요합니다. 우리는 선거 간섭의 새로운 시대에 진입하고 있으며, 국가들은 경계를 늦추지 않고 국제 협력을 촉진하며 AI 기반 선전을 저지할 수 있는 방어 메커니즘을 개발해야 합니다. 이러한 진화하는 전술을 더 빨리 이해할수록 민주적 과정의 무결성을 더 잘 보호할 수 있습니다.