중국은 인지전에 AI를 활용하고 있는가?

공개적으로 보도된 바에 따르면, 중국은 직접적인 군사적 충돌 없이 대중의 신념과 의견에 영향을 미치기 위해 인지전 전술을 사용하고 있습니다. 이 새로운 용어는 전쟁의 진화하는 특성, 즉 사람들의 생각을 조종하는 것이 이 전략의 핵심이기 때문에 등장했습니다. 

중국은 또한 사실적이지만 가짜인 음성 테이프와 영상 등 인공지능이 생성한 허위 정보를 전략의 일환으로 활용하고 있습니다. 우려스러운 점은 AI가 1년 전에는 불가능했던 새로운 가능성을 가져옴에 따라, 국가 지원 세력이 처음으로 외국 선거를 조작하기 위해 노력하고 있다는 것입니다.

중국은 여론을 형성하려고 노력하고 있습니다

중국과 대만의 경쟁은 중국이 지난 20년간 영향력 기반 작전에 집중해 온 만큼, 인지전이라는 용어가 주류로 자리 잡았습니다. 지정학적 상황과 지상 현실을 고려할 때, 중국은 군사력을 통한 대만 직접 개입이 막대한 비용을 초래할 수 있다고 판단했을 가능성이 있습니다. 

지난달 마이크로소프트의 보고서에 따르면, 중국이 대만 총선에서 AI가 생성한 콘텐츠를 시범적으로 도입한 것은 시험 단계였으며, 이제는 미국, 한국, 인도 선거에도 동일한 방식을 적용하려 하고 있다고 합니다. 

보도에 따르면, 북한은 중국과 협력하여 국가 지원 사이버 조직을 통해 올해 미국 대선을 겨냥할 가능성도 있습니다. 보도에 따르면,

"한편, 인도, 한국, 미국의 유권자들이 투표소로 향하는 동안 중국의 사이버 및 영향력 있는 세력, 그리고 어느 정도 북한의 사이버 세력이 이 선거를 표적으로 삼을 가능성이 높습니다."

출처: Microsoft.

중국이 인공지능(AI)으로 생성된 콘텐츠를 소셜 미디어를 통해 유포하여 자신들에게 유리한 방향으로 선거를 조작할 것이라는 추측이 제기되고 있다. 현재로서는 가짜 콘텐츠가 여론에 미치는 영향은 크지 않지만, 기술 발전과 중국의 실험적인 시도가 증가함에 따라 상황이 바뀔 수 있다.

국가 지원 사이버 공격자들이 최전선에 있습니다.

드래곤브리지 또는 스팸플라지(Spamouflage)라는 이름으로도 알려진 중국 지원 사이버 조직 스톰 ​​1376이 대만dent기간 동안 상당히 활발하게 활동한 것으로 알려졌습니다. 이 조직은 선거에서 사퇴한 궈타이밍 후보의 가짜 음성 파일도 이 단체의 소행으로 추정됩니다. 유튜브는 해당 영상이 신고되자 삭제했지만, 많은 사용자에게 전달되었을 것으로 보입니다.

또 다른 친소련 후보 윌리엄 라이 역시 반중 성향으로 여겨져 국가 자금을 횡령했다는 내용의 AI 기반 밈(meme)이 연달아 등장했습니다. 밈과 더불어, 라이와 같은 후보가 사생아를 낳았다는 허위 주장을 하는 AI 기반 TV 앵커들의 등장도 급증했습니다. 

캡컷(Capcut)이라는 도구를 사용해 앵커를 제작했다고 전해지는데, 이 도구는 틱톡(TikTok). 지난 2월, 전략대화연구소(Institute for Strategic Dialogue)의 보고서에 따르면, 서양 이름을 가진 X 플랫폼 계정이 러시아 네트워크인 RT의 영상을 공유했는데, 바이든과 CIA가 우크라이나에 갱스터를 파견해 전투를 벌였다고 주장했습니다. 이 계정은 합법적인 것처럼 보이려고 트럼프 지지자인 로스앤젤레스의 43세 남성이 운영하는 것으로 표시되었고, 덴마크 블로그에서 가져온 사진도 함께 게재되었습니다.

Storm 1376처럼 중국 단체가 게시한 콘텐츠를 반복해서 게시하는 다른 계정도 많이dent되었습니다. 페이스북, 스레드, 인스타그램의 모회사인 메타는 Storm 1376과 관련이 있을 가능성이 있는 수천 개의 의심스러운 계정을 삭제했습니다. 하지만 최근 계정들은 팔로워를 늘리기 위해 자연스러운 방식을 채택하고 있으며, 사람이 운영하는 것으로 보이기 때문에dent하기가 쉽지 않습니다. 중국은 이러한 비난을 부인하며 어떤 지역의 선거에도 영향을 미치는 어떠한 활동도 지원하지 않는다고 주장하지만, 해당 단체들의 캠페인은 계속되고 있습니다.