중국 증권감독당국은 주식시장의 허위 정보 감시 업무를 더욱 강화하고, 경찰 및 사이버 규제 당국과 협력하여 허위 정보를 유포한 사람들에게 법의 심판을 내리겠다고 다짐했다.
가짜 뉴스는 과거에도 존재했고 오늘날에도 여전히 큰 피해를 주고 있습니다. 하지만 인공지능의 확산으로 가짜 뉴스는 그 어느 때보다 쉽게 퍼져나가고 있습니다. 증권시보에 따르면 규제 당국은 이 문제에 대해 "조기에, 강력하게, 그리고 근본적으로" 대응해야 합니다.
인공지능은 허위 정보를 퍼뜨리는 도구가 되었습니다
인공지능, 특히 생성형 인공지능은 진실된 정보의 유통을 위협하는 수준까지 발전했습니다.
누구나 인공지능을 손에 넣을 수 있고, 의지만 있다면 자신만의 인공지능을 만들 수도 있다.
상하이증권보의 별도 기사에 따르면, 이러한 인공지능은 현재 투자자들을 속이거나 주가를 조작하기 위해 허위 정보를 퍼뜨리는 데 사용되고 있다.
탐욕스러운 투자자들은 쉽게 부자가 될 수 있다는 생각에 현혹되고, 사기를 당한 사람들은 인공지능에 대한 불신을 퍼뜨리기 시작했습니다. 그들을 탓할 수 있을까요? 기술의 어두운 면을 경험하고 나면 그 기술을 쉽게 받아들이기 어렵습니다.
잠재적 위험에도 불구하고, 중국의 AI 스타트업 딥시크(DeepSeek)와 같은 기업들의 등장으로 개인 투자자와 펀드 매니저들은 기업을 평가하고 투자하는 데 AI를 활용하게 되었습니다.
🚀 DeepSeek-R1이 출시되었습니다!
⚡ OpenAI-o1과 동등한 성능
📖 완전 오픈 소스 모델 및 기술 보고서 제공
🏆 MIT 라이선스: 자유롭게 활용 및 상용화 가능!🌐 웹사이트와 API가 드디어 출시되었습니다! https://t.co/v1TFy7LHNy !
🐋 1/n pic.twitter.com/7BlpWAPu6y
— DeepSeek(@deepseek_ai) 2025년 1월 20일
이 기술 도입에 위험 요소를 초래하는 한 가지 요인은 인공지능이 만들어낸 가짜 뉴스에 투자자들이 현혹될 수 있다는 우려입니다.
증권시보에 따르면, 중국 증권감독관리위원회는 근절하기 예정이다.
금요일, 중국 당국은 인공지능의 오용과 허위 정보 확산에 맞서기 위한 조치의 일환으로 온라인에 유포되는 모든 인공지능 생성 콘텐츠에 라벨을 부착 하도록 하는
증권시보와 상하이증권보의 보도는 중국에서 소비자 보호를 장려하는 주요 TV 및 소셜 미디어 행사인 3월 15일 세계 소비자 권리의 날과 시기적으로 일치합니다.
중국은 서구권 시청자를 겨냥한 인공지능 기반 허위 정보 유포로 정기적으로 비난받고 있다
하지만 중국 정부는 중국 밖에서는 인공지능을 이용해 서방 세계를 상대로 허위 정보 전쟁을 벌이고 있다는 보도가 나오고 있다.
불과 며칠 전, 한 모니터에서 중국산 AI 에이전트가 최대 50개까지 실행되는 영상이 X 플랫폼에서 큰 화제를 모았고, 많은 사람들이 일론 머스크의 그록(Grok)을 언급하며 해명을 요구했습니다.
그록에 따르면, "각 인스턴스는 서로 다른 계정을 관리하는 것으로 보이며, 게시물, 댓글 또는 상호 작용을 자동화하는 것으로 추정됩니다."
AI는 이러한 설정이 "온라인 여론을 조작하려는 조직적인 시도, 아마도 선전이나 영향력 행사 작전을 위한 것일 수 있다"고 덧붙였습니다. "이러한 봇들은 허위 정보를 퍼뜨리고, 분열을 조장하는 콘텐츠를 증폭시키며, 대규모로 여론을 조작하여 민주적 담론을 위협할 수 있기 때문에 우려스럽다."
다소 황당한 이론처럼 들릴지 모르지만, 그록은 지적했습니다 . AI가 이러한 상황에 처하는 것은 그리 먼 미래의 일이 아닙니다.
이 이미지는 중국 AI 에이전트 50개가 실행되는 모니터를 보여줍니다. 대부분 소셜 미디어 봇으로 구성되어 있으며, 각 인스턴스는 서로 다른 계정을 관리하며 게시물, 댓글 또는 상호 작용을 자동화하는 것으로 보입니다. 이러한 구성은 온라인 여론을 조작하기 위한 조직적인 시도를 시사합니다
— 그록(@grok) 2025년 3월 9일
2024년 4월, 마이크로소프트 위협 인텔리전스는 보고서에서 중국이 인공지능을 이용해 허위 정보를 퍼뜨리고 전 세계적으로 분열을 조장하는 영향력 공작을 벌이고 있다고 노골적으로 비난했습니다.
dent 결과에 영향을 미쳐 자국에 유리하게 작용하려 하고 있다고 합니다. https://t.co/ZwAxPOTgLV
— 마이크로소프트 위협 인텔리전스 (@MsftSecIntel) 2024년 4월 5일
보고서에서 강조된 활동 중 하나는 "1월 13일dent및 국회의원 선거를 앞두고 대만 정치인들을 등장시킨 콘텐츠가 눈에 띄게 증가했다"는 점입니다
여기에는 중국 공산당(CCP)과 연계된 '스톰-1376' 또는 '스파무플라주'라는 단체가 공유한 AI 생성 음성 녹음이 포함되었는데, 이 녹음은 잠시dentdent운동을 벌였던 폭스콘 회장 테리 고우가 다른 후보를 지지한 것처럼 보이게 만들었지만, 실제로는 그렇지 않았습니다.
마이크로소프트는 또한 AI가 생성한 뉴스 앵커와 AI가 생성한 밈을 유포하여 대만의 선거에 영향을 미치고 대중을 오도하려 했다는 사실을 기록했습니다.
"이번 사례는 마이크로소프트 위협 인텔리전스가 국가 차원의 공격자가 AI 콘텐츠를 이용해 해외 선거에 영향을 미치려 한 것을 처음으로 포착한 사례입니다."라고 보고서는 주장했다.
또한 "인도, 한국, 미국의 유권자들이 투표소로 향함에 따라 중국의 사이버 및 영향력 행사 세력, 그리고 어느 정도는 북한의 사이버 세력이 이러한 선거를 표적으로 삼으려 할 가능성이 높다"고 경고했습니다
인공지능의 발전과 함께 중국의 영향력 공작이 더욱 정교해지고 있다는 점에는 의심의 여지가 거의 없지만, 마이크로소프트는 이러한 공작이 여론을 바꾸는 데 성공했다는 증거는 거의 없다고 지적했습니다.
물론 그렇다고 안심할 이유는 없습니다. 마이크로소프트는 인정 미래에 대한 우려를 표명하며, 중국이 밈, 동영상, 오디오를 증폭시키는 실험을 점점 더 많이 하고 있어 시간이 지날수록 분열을 조장하는 데 더욱 효과적일 수 있다고 지적했습니다.
