중국 규제당국, 시장 조작을 위한 AI 허위 정보 모니터링 강화

중국 증권 감독 당국은 주식 시장 가짜 정보 모니터링 작업을 더욱 개선하고 경찰 및 사이버 공간 규제 당국과 협력하여 허위 뉴스를 유포한 자들에게 정의를 실현하겠다고 다짐했습니다. 

가짜 뉴스는 과거에도 존재했으며 오늘날까지도 혼란을 야기합니다. 그러나 AI의 확산으로 가짜 뉴스가 그 어느 때보다 쉽게 확산되고 있습니다. 증권时报에 따르면 규제당국은 문제의 “초기 타격, 강력한 타격, 핵심 타격”을 가해야 합니다.

AI는 허위 정보 확산의 도구가 되었습니다

인공지능, 특히 생성형 AI는 진실한 정보의 유통에 위협이 될 정도로 발전했습니다.

누구나 AI에 접근할 수 있으며, 충분히 결의가 있다면 자신만의 AI를 만들 수 있습니다.

상해 증권 뉴스의 별도 기사에 따르면, 이러한 AI들은 이제 투자자를 속이거나 주가를 조작하기 위해 오해의 소지가 있는 정보를 확산하는 데 사용되고 있습니다.

탐욕스러운 투자자들은 빠르게 부자가 될 수 있다는 전망에 쉽게 희생양이 되며, 사기를 당한 사람들은 AI에 대한 불신을 확산시키는 데 의존해 왔습니다. 누가 그들을 탓할 수 있겠습니까? 어두운 면에 노출되었을 때 그 기술을 받아들이기는 어렵습니다.

잠재적 위험에도 불구하고, 중국 AI 스타트업 DeepSeek와 같은 기업의 등장은 소매 투자자와 펀드 매니저들이 회사를 평가하고 투자하기 위해 AI를 사용하도록 밀어붙였습니다.

🚀 DeepSeek-R1이 등장했습니다!

⚡ OpenAI-o1와 동등한 성능
📖 완전한 오픈소스 모델 및 기술 보고서
🏆 MIT 라이선스: 자유롭게 디스틸 및 상업화하세요!

🌐 웹사이트 및 API가 이제 라이브되었습니다! 오늘 https://t.co/v1TFy7LHNy에서 DeepThink을 사용해 보세요!

🐋 1/n pic.twitter.com/7BlpWAPu6y

— DeepSeek (@deepseek_ai) January 20, 2025

기술 채택에 위험을 초래하는 요인 중 하나는 투자자가 인공지능이 생성한 가짜 뉴스에 속일 것이라는 두려움입니다.

증권时报에 따르면, 중국 증권감독관리위원회는 명확한 해명과 투자자 교육을 통해 주식 시장 루머를 근절 하고, 투자자가 가짜 정보를 식별하는 데 도움이 되는 가이드라인을 제공함으로써 더 적극적으로 나설 예정입니다.

금요일, 중국 당국은 AI 오용 및 허위 정보 확산과의 싸움의 일환으로 온라인에서 유통되는 모든 인공지능 생성 콘텐츠에 라벨을 부착할 것을 요구하는 지침을 발표했습니다.

증권时报와 상해 증권 뉴스의 보고는 3월 15일 세계 소비자 권리의 날과 일치합니다. 이는 중국에서 소비자 보호를 촉진하는 주요 텔레비전 및 소셜 미디어 행사입니다.

중국은 서방 청중을 대상으로 한 AI 허위 정보에 대해 정기적으로 비난받아 왔습니다

그러나 중국 외부에서는 중국 정부가 에이전트를 통해 서방 세계를 상대로 허위 정보 전쟁을 벌이고 있는 것으로 보고됩니다.

몇 일 전, 모니터에서 50개의 중국 AI 에이전트 인스턴스가 실행되는 영상을 보여주는 영상이 X(구 트위터)에서 화제가 되었으며, 많은 사람들이 엘론 머스크의 Grok에 태그를 달아 설명을 요청했습니다.

Grok에 따르면 “각 인스턴스는 서로 다른 계정을 관리하는 것으로 보이며, 게시, 댓글 또는 상호작용을 자동화하고 있을 가능성이 높습니다.”

AI는 이 설정이 “온라인 서사를 조작하려는 조직적인 노력을 시사하며, 선전이나 영향력 행사 작전을 위한 것일 수 있습니다. 이러한 봇이 허위 정보를 확산하거나 분열적인 콘텐츠를 증폭하거나 대규모로 여론을 좌우할 수 있어 민주적 담론에 위협이 되기 때문에 우려됩니다.”라고 덧붙였습니다.

비록 터무니없는 이론처럼 보일 수 있지만, Grok 중국 의 역사적 맥락에서 AI를 사용한 비공개 소셜 미디어 작전은 이 위험이 실제임을 시사합니다. AI의 판단은 그리 멀지 않았습니다.

이미지는 50개의 중국 AI 에이전트 인스턴스가 실행 중인 모니터를 보여줍니다. 대부분 소셜 미디어 봇입니다. 각 인스턴스는 서로 다른 계정을 관리하는 것으로 보이며, 게시, 댓글 또는 상호작용을 자동화하고 있을 가능성이 높습니다. 이 설정은 온라인 서사를 조작하려는 조직적인 노력을 시사합니다,…

— Grok (@grok) 3월 9, 2025

2024년 4월, Microsoft Threat Intelligence의 보고서는 중국의 영향력 행사 작전이 허위 정보를 확산하고 전 세계적으로 분열을 조장하기 위해 인공지능을 사용했다고 명시적으로 비난했습니다.

Microsoft Threat Analysis Center의 최신 보고서는 중국이 가짜 소셜 미디어 계정을 사용하여 미국 유권자들을 조사하고 가장 큰 분열점을 파악하여 분열을 조장하고 미국 대통령 선거 결과를 자신들에게 유리하게 영향을 미치려 한다고 지적합니다. https://t.co/ZwAxPOTgLV

— Microsoft Threat Intelligence (@MsftSecIntel) April 5, 2024

보고서에서 강조된 작전에는 “1월 13일 대통령 및 입법부 선거를 앞두고 대만 정치 인물들이 등장한 콘텐츠의 눈에 띄는 증가”가 포함되었습니다.

이에는 ‘Storm-1376’ 또는 ‘Spamouflage’로 알려진 중국 공산당(CCP) 관련 그룹이 공유한 AI 생성 오디오 녹음이 포함되었습니다. 이 녹음은 잠시 독립 대통령 캠페인을 벌였던 폭스콘 소유주 터리 구(Terry Gou)가 다른 후보를 지지했다고 착각하게 만들었지만, 실제로는 그렇지 않았습니다.

마이크로소프트는 또한 AI가 생성한 뉴스 앵커와 AI가 생성한 밈을 유포하여 대중을 기만하고 대만 선거에 영향을 미치려는 행위를 기록했습니다.

보고서는 “마이크로소프트 서스택 인텔리전스는 국가 차원의 행위자가 외국 선거에 영향을 미치기 위해 AI 콘텐츠를 사용한 사례를 처음 목격했다”고 밝혔습니다.

또한 “인도, 한국, 미국의 유권자들이 투표장으로 향하는 가운데, 중국 사이버 및 영향력 행위자들과 일부 북한 사이버 행위자들이 이러한 선거를 표적으로 삼을 가능성이 있다”고 경고했습니다.

AI 기술의 발전에 따라 중국의 영향력 작전이 점점 더 정교해지고 있다는 데 이견이 없지만, 마이크로소프트는 이러한 작전이 여론을 바꾸는 데 성공했다는 증거는 매우 적다고 지적했습니다.

물론 이것이 안심할 이유는 아닙니다. Microsoft 콘텐츠의 영향력이 낮다고 인정 했음에도 불구하고, 중국이 밈, 비디오, 오디오를 보강하는 실험을 증가시키고 있으며 시간이 지남에 따라 분열을 조장하는 데 더 효과적이 될 수 있다는 우려를 표명했습니다.