중국이 AI를 사용하여 인지전을 부추기고 있는가?

공개적으로 보고되는 바에 따르면, 중국은 군사적 충돌에 직접적으로 관여하지 않고 대중의 신념과 여론에 영향을 주기 위해 인지전 전술을 사용하고 있습니다. 이 새로운 용어는 전쟁의 진화하는 성격으로 인해 등장했으며, 사고 조작이 이 전략의 핵심 초점입니다. 

중국은 또한 현실적이지만 가짜인 음성 테이프와 비디오와 같은 AI 생성 허위 정보에 전략의 일부로 의존하고 있습니다. 우려되는 점은 AI가 1년 전에는 불가능했던 새로운 가능성을 제공하면서, 국가 지원 행위자들이 처음으로 외국의 선거를 조작하려고 노력하고 있다는 것입니다.

중국은 여론을 조종하려 하고 있습니다

중국-대만 경쟁은 인지전이라는 용어를 주류로 끌어올렸으며, 중국은 지난 20년 동안 최근 영향력 기반 작전에 집중해 왔습니다. 지정학적 상황과 현장 현실로 인해 중국은 군사력을 통한 대만 직접 개입이 비용이 많이 드는 일이라고 결론지었을 수 있습니다. 

보고서에 따르면, 중국의 대만 총선에서 AI 생성 콘텐츠 시험은 테스트 런이었으며, 마이크로소프트의 지난달 보고서에 따르면 이제 미국, 한국, 인도 선거에 동일한 관행을 도입하려고 시도하고 있습니다. 

보고서에 따르면 북한도 올해 미국 선거를 표적으로 삼기 위해 중국과 협력할 가능성이 있으며, 이를 위해 국가 지원 사이버 그룹을 활용할 수 있습니다. 보고서의 내용은 다음과 같습니다.

“한편, 인도, 한국, 미국의 유권자들이 투표소에 향하는 가운데, 중국 사이버 및 영향력 행위자들이, 그리고 일부 북한 사이버 행위자들이 이러한 선거를 표적으로 삼기 위해 활동할 가능성이 높다.”

출처: 마이크로소프트.

중국은 소셜 미디어를 통해 AI 생성 콘텐츠를 생성하고 배포하여 자신들에게 유리한 방식으로 선거를 조종할 것으로 추정됩니다. 현재 가짜 콘텐츠가 여론을 흔드는 영향력은 크지 않지만, 기술의 발전과 중국의 실험이 증가함에 따라 이는 바뀔 수 있습니다.

국가 지원 사이버 행위자들이 최전선에 서 있다

스톰 1376(드래곤브리지 또는 스파모플라주라는 이름으로도 알려짐)이라는 중국 지원 사이버 그룹은 대만 총선 기간 중 상당히 활발하게 활동한 것으로 알려졌다. 이 동일한 그룹은 선거에서 사퇴한 테리 구 후보의 가짜 오디오 파일의 배후로 추정된다. 유튜브는 해당 영상이 신고되었을 때 삭제했지만, 이미 많은 사용자에게 도달했을 가능성이 크다.

친소련 성향의 또 다른 후보인 위안라이(William Lai)도 중국 반대에 서 있다는 이유로 국가 자금 횡령과 관련된 AI 생성 밈의 표적이 되었다. 밈과 함께 위안라이가 사생아를 낳았다는 허위 주장을 담은 AI 생성 TV 앵커들의 사용이 급증했다. 

Capcut이라는 도구가 사용되어 앵커가 생성되었으며, 이는 틱톡의 소유주인 중국 기술 거인 바이트댄스의 제품입니다. 작년 2월, 전략대화연구소(Institute for Strategic Dialogue)의 보고서에 따르면 서양식 이름을 가진 X 플랫폼 계정이 러시아 네트워크인 RT의 동영상을 공유하며 바이든과 CIA가 우크라이나 전투를 위해 갱단을 보냈다고 주장했습니다. 계정은 합법적으로 보이려는 시도로 로스앤젤레스에 거주하는 43세의 트럼프 지지자라고 소개되었으며, 덴마크 블로그에서 가져온 사진이 사용되었습니다.

스톰 1376과 같은 중국 그룹이 게시한 콘텐츠를 반복적으로 공유하는 다른 계정들도 다수 확인되었다. 페이스북, 스레드, 인스타그램의 모회사인 메타는 스톰 1376과 관련이 있을 것으로 의심되는 수천 개의 계정을 삭제했다. 하지만 새로운 계정들은 팔로워를 확보하기 위해 유기적인 스타일을 채택하고 인간이 운영하는 것처럼 보이므로 식별하기가 쉽지 않다. 중국은 이러한 비난을 부인하며 어느 지역의 선거에도 영향을 미치는 활동을 지원하지 않는다고 주장하지만, 해당 그룹들의 캠페인은 계속되고 있다.