마이크로소프트 보고서에 따르면 중국 공작원들이 인공지능으로 생성된 이미지를 이용해 미국 내 분열을 조장하고 있다고 경고했습니다

최근 발표한 보고서 악용하려는 시도에 대해 경고했습니다 (AI)으로 생성된 이미지를. 이들의 목적은 무엇일까요? 바로 다가오는 2024년 미국 대선을 겨냥해 미국 내에 분열을 조장하는 것입니다.

마이크로소프트의 보고서는 빠르게 확산되는 허위 정보 유포 위협에 주목합니다. 보고서에 따르면 중국 공작원들은 첨단 인공지능 기술을 활용하여 다양한 미국 시민의 모습을 모방한 이미지를matic으로 생성할 수 있습니다. 이렇게 조작된 이미지는 인종, 경제, 이념과 같은 주제를 둘러싼 논쟁을 부추겨 사회적 분열을 심화시키도록 전략적으로 설계되었습니다.

고급 이미지 생성 기술이 우려를 낳고 있다

이러한 AI 생성 이미지는 놀라운 사실성으로 기존의 스톡 사진이나 디지털 일러스트레이션을 뛰어넘는 차별화된 모습을 보여줍니다. 이러한 높은 수준의 사실성은 대중의 정서에 더 큰 영향을 미치고 분열을 조장하는 콘텐츠의 파급 효과를 증폭시킬 수 있는 잠재력을 부여합니다.

이 보고서는 인공지능이 생성한 이러한 시각 자료들이 총기 폭력과 흑인 생명도 소중하다(Black Lives Matter) 운동 등 미국 사회에서 가장 논쟁적인 문제들을 악용하는 데 전술적으로 사용되고 있음을 강조합니다. 더 나아가, 이러한 시각 자료들은 주요 정치인들의 명성을 훼손하고 정치적 양극화를 더욱 부추기는 데 전략적으로 활용되고 있습니다.

마이크로소프트의 위협 분석 센터는 인공지능을 이용한 허위 정보 유포 캠페인 등 디지털 위협을 탐지하고 모니터링하는 데 핵심적인 역할을 합니다. 이들의 임무는 정책 입안자, 보안 전문가 및 일반 대중에게 시의적절하고 정확한 정보를 제공하여 정보의 신뢰성과 민주주의 절차를 위협할 수 있는 새로운 위협에 대한 정보를 지속적으로 얻을 수 있도록 지원하는 것입니다.

중국의 확대되는 선전 활동

인공지능으로 생성된 이미지의 범위를 넘어, 이 보고서는 중국이 전 세계적으로 선전 활동을 펼치기 위해 기울이는 광범위한 노력에 대해 조명합니다. 중국 정부는 세계 무대에서 중국에 유리한 이미지를 심어주기 위한 메시지를 만드는 데 상당한 자원을 투입하고 있습니다. 여기에는 다양한 언어와 디지털 플랫폼을 활용하는 것이 포함됩니다. 특히, 이 보고서는 인플루언서로 가장한 개인들이 이러한 정보를 퍼뜨리는 데 이용되고 있음을 강조합니다.

최근의 사건들은 중국의 선전 캠페인이 얼마나 강력한지 여실히 보여줍니다. 페이스북의 전신인 메타 플랫폼(Meta Platforms Inc.)은 최근 중국 소행으로 추정되는 "세계 최대 규모의 플랫폼 간 비밀 영향력 공작"을 적발하고 저지했습니다.

이 보고서는 인공지능이 생성한 콘텐츠를 활용한 이러한 선전 캠페인이 이전의 시도들에 비해 상당한 성공을 거두었다는 점을 강조합니다. 이러한 콘텐츠가 최대 40개 언어로 무려 1억 3백만 명에게 도달했을 것으로 추정되며, 이는 이러한 허위 정보 캠페인의 세계적인 영향력을 보여줍니다.

 진화하는 위협에 대해 경계를 늦추지 않아야 합니다

마이크로소프트 보고서는 진화하는 허위 정보전의 양상을 여실히 보여주는 사례입니다. 중국 공작원들이 인공지능(AI)으로 생성한 이미지를 활용하는 것은 정보의 진실성과 민주주의 절차에 심각한 위협을 가하고 있습니다. 이러한 캠페인이 점점 더 확산되고 전 세계적으로 영향력을 확대해감에 따라, 각국 정부, 기술 기업, 그리고 시민 사회는 이러한 위협에 적극적으로 대응하기 위해 trac를 늦추지 않고 선제적으로 대처해야 할 필요성이 더욱 커지고 있습니다.

사회적 분열을 악용하고 여론을 조작할 수 있는 이러한 캠페인들은 민주주의 원칙과 정보의 진실성에 심각한 위협을 가하고 있습니다. 이러한 위협에 맞서 싸우기 위해서는 경계, 협력, 그리고 혁신이 필수적입니다.