중국 요원들, AI 생성 이미지를 이용해 미국 내 분열 조장, Microsoft 보고서 경고

마이크로소프트(Microsoft Corp.)의 위협 분석 센터(Threat Analysis Center)가 최근 발표한 보고서 에 따르면, 분석가들은 중국 요원들이 인공지능(AI) 생성 이미지를 악용하려는 잠재적 시도에 대해 경계심을 높이고 있습니다. 그들의 목표는 미국 내부에 분열을 조장하는 것으로, 다가오는 2024년 미국 선거에 특히 집중하고 있습니다.

Microsoft의 보고서는 허위 정보 캠페인에서 빠르게 부상하는 위협을 강조합니다. 이는 중국 요원들이 고급 AI 기술을 사용하여 광범위한 미국 시민들을 닮은 이미지를 자동으로 생성할 수 있다고 제안합니다. 이러한 조작된 이미지는 인종, 경제, 이데올로기 등 주제에 대한 논쟁을 부추기고 사회적 분열을 깊게 하기 위해 전략적으로 설계되었습니다.

고급 이미지 생성 기술에 대한 우려

그들의 놀라운 현실감 수준은 이러한 AI 생성 이미지를 구분짓며, 전통적인 스톡 사진이나 디지털 일러스트레이션보다 뛰어납니다. 이러한 높은 진정성은 대중의 감정에 영향을 미치고 분열적인 콘텐츠의 영향을 증폭시킬 더 큰 잠재력을 부여합니다.

보고서는 총기 폭력 및 Black Lives Matter 운동과 같은 미국 사회에서 가장 논쟁적인 문제들을 악용하기 위해 이러한 AI 생성 시각 자료를 전술적으로 사용하는 것을 강조합니다. 또한 이러한 시각 자료는 저명한 정치 인물들의 명성을 훼손하기 위해 전략적으로 배포되어 정치적 양극화의 불씨를 더욱 키우고 있습니다.

Microsoft의 Threat Analysis Center는 선동 캠페인에서 AI와 관련된 디지털 위협을 감지하고 모니터링하는 데 중추적인 역할을 합니다. 그들의 사명은 정책 입안자, 보안 전문가 및 대중에게 시의적절하고 정확한 정보를 제공하는 것입니다. 이를 통해 정보와 민주적 절차의 무결성을 훼손할 수 있는 새로운 위협에 대해 지속적으로 정보를 얻을 수 있습니다.

중국의 확장되는 선동 노력

AI 생성 이미지의 범위를 넘어, 이 보고서는 전 세계적으로 선동을 확산하려는 중국의 더 넓은 노력을 조명합니다. 중국 정부는 세계 무대에서 중국을 유리한 빛으로 제시하기 위해 메시지를 구성하는 데 상당한 자원을 할당하고 있습니다. 여기에는 다양한 언어 및 디지털 플랫폼을 타겟팅하는 것이 포함됩니다. 특히 보고서는 이러한 정보를 확산하기 위해 인플루언서로 위장한 개인들의 사용 사례를 강조합니다.

최근 developments는 중국 선전 캠페인의 위력을 stark하게 일깨워줍니다. Meta Platforms Inc.(구 Facebook)는 최근 중국 행위자들이 저지른 것으로 알려진 “세계에서 가장 큰 크로스 플랫폼 비공개 영향력 작전”을 발견하고 저지했다고 밝혔습니다.

이 보고서는 AI 생성 콘텐츠를 활용한 이러한 선전 캠페인들이 이전 시도들에 비해 상당한 성공을 거두었음을 강조합니다. 이러한 콘텐츠가 최대 40개 언어로 약 1억 3천만 명에게 도달했을 것으로 추정되며, 이는 이러한 허위 정보 캠페인의 글로벌 도달 범위를 강조합니다.

 진화하는 위협에 대한 경계 유지

Microsoft의 보고서는 허위 정보 전쟁의 진화하는 양상을 stark하게 일깨워줍니다. 중국 요원들이 AI 생성 이미지를 사용하는 것은 정보 무결성과 민주적 절차에 독특하고 formidable한 도전을 제기합니다. 이러한 캠페인이 traction을 얻고 점점 더 넓은 글로벌 청중에게 도달함에 따라, 정부, 기술 기업, 시민 사회는 이러한 위협에 대항하기 위해 경계하고 proactive하게 남아야 합니다.

사회적 분열을 악용하고 여론을 호소할 수 있는 능력으로, 이러한 캠페인은 민주주의 원칙과 정보 무결성에 formidable한 도전을 제기합니다. 이러한 위협과의 지속적인 전투에서 경계, 협력, 혁신이 필수적입니다.