디지털 선거 개입의 어두운 이면을 드러내는 이번 조사에서 호주 전략정책연구소(ASPI)는 중국 공산당(CCP)이 인공지능(AI) 기반 허위 정보를 이용해 대만의 최근 선거를 조작하기 위해 비밀리에 공작을 벌였다는 사실을 밝혀냈습니다. 이들은 AI로 생성된 아바타, 유출된 문서, 가짜 친자 확인 검사 등을 활용하는 교활한 수법을 사용했으며, 이러한 허위 정보 유포 공작이 전 세계에 미칠 수 있는 잠재적 영향에 대한 우려를 불러일으키고 있습니다.
중국의 비밀 공작이 드러났다
ASPI의 조사 결과, 중국 공산당과 연계된 네트워크인 스패모플라주(Spamouflage)가 X/트위터, 페이스북, 미디엄, 대만 블로그 등의 플랫폼에서 AI로 생성된 아바타를 이용해 악의적인 활동을 벌인 사실이 드러났습니다. 이 계정들은 민진당(DPP) 후보들을 표적으로 삼아 부패와 횡령 혐의로 고발하며 여론을 조작하려 했습니다. 이 네트워크가 중국 사법기관 및 정부 기관과 연계되어 있다는 사실은 상황을 더욱 복잡하게 만들었습니다.
메타의 2023년 3분기 보고서에서 확인된 두 번째 위협 행위자는 정교한 사이버 영향력 공작에 가담dent. 이 행위자는 대만 정부의 유출 문서라고 주장되는 자료와 민진당dent후보 라이칭더와 관련된 가짜 DNA 친자 확인 검사 결과를 유포했습니다. 인공지능(AI)으로 생성된 콘텐츠를 포함한 이러한 캠페인의 복잡성은 중국의 영향력 공작에서 우려스러운 양상을 보여줍니다.
ASPI 보고서는 인공지능을 활용한 중국의 허위 정보 유포 캠페인이 대만의 경계를 넘어 광범위한 영향을 미치고 있음을 보여줍니다. 특히, 스패머플라주(Spamouflage) 네트워크는 대만에서 영향력을 행사하는 것 외에도 인도 집권당인 바라티야 자나타당(BJP)과 인도 정부, 특히 인도 마니푸르 지역을 겨냥한 비방 콘텐츠를dent한 것으로 드러났습니다. 이러한 사실은 중국 공산당(CCP)이 향후 전 세계 선거에 개입할 수 있는 가능성을 시사합니다.
인공지능이 생성한 허위 정보에 맞서는 민주적 단결
이 보고서는 X/트위터와 같은 플랫폼이 선거 기간 동안 온라인 안전을 보장할 책임이 있음을 강조하며, 중국에 기반을 둔 조직적인 비정상적 행위 네트워크와 관련된 계정을 정지하는 데 있어 미흡한 점을 지적합니다. 또한 신세시아(Synthesia)와 D-ID 같은 서구의 생성형 AI 기업들이 자사 제품의 오용을 방지하기 위해 마땅히 해야 할 실사와 투명성을 확보할 것을 촉구하고, 오픈AI(OpenAI) 역시 소셜 미디어 플랫폼처럼 오용 관련 위협 보고서를 공개할 것을 권고합니다.
보고서의 결론은 중국의 급성장하는 인공지능(AI) 산업에 대한 외국인 투자에 대해 경고의 목소리를 높이고 있습니다. 보고서는 서방 정부와 기업들이 이 분야에 대한 참여를 재평가해야 한다고 주장합니다. 특히 정치 공작 영역에서 AI 제품이 지닌 이중 용도 가능성은 더욱 면밀한 감시를 필요로 하며, 의도치 않게 선거 개입을 조장할 수 있는 AI 기업에 대해 법적 책임을 부과해야 할 필요성을 강력히 시사합니다.
다가오는 선거를 앞두고 민주주의 국가들이 준비하는 가운데, ASPI 보고서는 대만과의 관계 강화와 허위 정보에 . 중국 공산당의 위협 행위자에 대한 정보 공유, 여러 지역을 겨냥한 소셜 미디어 계정 조사, 그리고 허위 정보 대응 협력은 민주주의 방어를 강화할 수 있습니다.
디지털 플랫폼에 대한 의존도가 점점 높아지는 세상에서, 중국이 인공지능(AI)을 이용해 정교한 허위 정보 유포 캠페인을 벌이고 있다는 사실은 민주주의 국가들이 선거 과정의 공정성을 지키는 데 직면한 어려움을 여실히 보여줍니다. 이러한 진화하는 위협에 맞서 싸우는 것은 정부뿐 아니라 기술 기업과 더 나아가 국제 사회 전체의 책임입니다.
