AI 생성 허위 정보 – 베이징의 대만 선거 조작을 위한 은밀한 캠페인 공개

디지털 선거 간섭의 어두운 이면을 드러내는 revelations(발표)에서, 호주 전략 정책 연구소(ASPI)는 중국 공산당(CCP)이 AI 생성 허위 정보를 통해 대만의 최근 선거를 조작하기 위해 조종한 은밀한 캠페인을 발견했습니다. AI 생성 아바타, 유출된 문서, 그리고 가짜 친자 테스트 사용과 같은 교활한 전술은 이러한 허위 정보 캠페인의 잠재적 글로벌 영향력에 대한 우려를 제기했습니다.

중국의 은밀한 캠페인 공개

ASPI 조사는 X/Twitter, Facebook, Medium 및 대만 블로그와 같은 플랫폼에서 AI 생성 아바타를 사용하는 CCP 관련 네트워크인 스파모플라지(Spamouflage)의 악의적인 활동을 폭로했습니다. 이 계정들은 민주진보당(DPP) 후보들을 표적으로 삼아 부패와 횡령을 비난하며 대중의 감정을 그들 against(대해) 돌리려 했습니다. 이 네트워크의 중국 법 집행 기관 및 정부 기관과의 연결은 상황을 더욱 복잡하게 만들었습니다.

메타의 2023년 3분기 보고서에서 식별된 두 번째 위협 행위자는 정교한 사이버 영향력 작전에 관여했습니다. 이 행위자는 alleged(주장된) 유출된 대만 정부 문서와 DPP 대통령 후보 차이칭테(Lai Ching-te)가 관련된 가짜 DNA 친자 테스트를 유포했습니다. AI 생성 콘텐츠 사용 포함 이러한 캠페인의 복잡성은 중국의 영향력 작전에서 우려스러운 발전을 mark(표시)했습니다.

ASPI 보고서는 인공 지능에 의해 주도되는 중국의 허위 정보 캠페인에서 비롯된 광범위한 결과를 조명하며, 대만의 경계를 넘어섭니다. 특히 스파모플라지 네트워크는 대만에서 영향력을 행사하는 aside(aside)에서, BJP(바라티야 자나타당)와 인도 정부를 비방하는 콘텐츠를 유포하는 것으로 식별되었으며, 특히 인도의 마니푸르 지역에 초점을 맞추고 있습니다. 이 발표는 CCP가 향후 글로벌 선거에서 간섭할 수 있는 잠재적 모델을 드러냅니다.

AI 생성 허위 정보에 맞선 민주주의 단결

이 보고서는 X/Twitter와 같은 플랫폼이 선거 중 온라인 안전을 보장할 책임이 있음을 강조하며, 중국 기반의 조정된 부진실 행동 네트워크와 관련된 계정 정지에 대한 shortcomings(부족)을 지적합니다. 또한 시네시아(Synthesia)와 D-ID와 같은 서방 생성형 AI 기업들에게 제품의 오용 방지를 위해 주의 의무와 투명성을 행사할 것을 촉구하며, 오픈AI에게 소셜 미디어 플랫폼의 선례를 따라 오용에 대한 위협 보고서를 출시할 것을 촉구합니다.

보고서의 결론적 진술은 경계적 입장을 제시하며, 중국의 급성장하는 AI 산업에 대한 외국인 투자에 대해 경종을 울립니다. 보고서는 서방 정부와 기업들이 이 부문과의 관여를 재평가할 것을 주장합니다. 특히 정치적 전쟁 작전 분야에서 AI 제품의 내재된 dual-use(양용) 잠재력은 heightened(강화된) 감시와, 우발적으로 선거 간섭을 용이하게 할 수 있는 AI 기업에 대한 법적 책임 부과를 필요로 합니다.

민주주의가 다가오는 선거를 준비함에 따라, ASPI 보고서는 대만과의 유대 강화와 허위 정보에 맞선 단결된 전선 채택을 장려합니다. CCP 위협 행위자에 대한 정보 공유, 여러 지역에 표적을 둔 소셜 미디어 계정 조사, 그리고 반-허위 정보 노력에 대한 협력을 통해 민주주의 방어력을 강화할 수 있습니다.

디지털 플랫폼에 점점 더 의존하는 세계에서, 중국의 정교한 AI 생성 허위 정보 캠페인에 대한 발표는 민주주의가 선거 과정의 무결성을 보존하는 데 직면한 과제에 대한 stark(명확한) 일깨림입니다. 책임은 정부뿐만 아니라 기술 기업과 더 넓은 글로벌 커뮤니티에게도 있으며, 이 진화하는 위협에 공동으로 대응해야 합니다.