중국은 현재 인공지능을 활용하여 검열과 억압을 강화하고 있다

유출된 데이터에 따르면 중국은 대규모 언어 모델을 활용하여 검열 시스템을 강화하고 있다.

최근 유출된 정보에 따르면, 13만 3천 건의 사용자 콘텐츠 사례를 기반으로 구축된 정교한 AI 시스템이 정부가 민감하다고 판단하는 모든 자료를 식별하도록 설계된 것으로 드러났습니다. 

보안 연구원이 발견하고 테크크런치중국이 톈안먼 사건과 같은 주제를 훨씬 넘어 온라인 통제 범위를 확장하려는 조치를 취하고 있음을 보여줍니다.

중국은 현대 기술을 이용하여 온라인 콘텐츠를 검열하고 있다

2024년 12월까지의 최근 기록이 포함된 이번 유출은 중국 당국이나 그 관련 기관이 새로운 기술을 이용해 온라인 콘텐츠를 검열하고 있다는 명백한 증거입니다. 

이 데이터베이스에는 중국 농촌 지역의 빈곤에 대한 불만, 부패한 공산당원에 대한 뉴스 보도, 부패한 경찰이 기업가들을 갈취하는 것에 대한 도움 요청 등이 포함되어 있습니다. 

각 콘텐츠는 대규모 언어 모델(LLM)에 입력되어 대중의 반발을 불러일으킬 만한 주제를 찾아냅니다.

중국 검열을 연구하는 UC 버클리 연구원 샤오창은 테크크런치와의 인터뷰에서 유출된 데이터는 정부가 LLM을 이용해 억압을 강화하려는 의도를 보여주는 "명백한 증거"라고 말했다. 

치앙은 키워드 필터링과 수동 검토에 인력을 의존하는 기존 방식과 달리 LLM은 미묘한 비판까지도 신속하고 정확하게dent할 수 있어 국가 주도의 정보 통제를 더욱 효율적이고 광범위하게 만들 수 있다고 설명했다.

이 시스템은 정치적 주제뿐만 아니라 사회생활의 민감한 영역과 군사 문제에까지 검열 목적으로 사용됩니다. 유출된 자료에 따르면, 오염, 식품 안전 스캔들, 금융 사기, 노동 분쟁과 관련된 모든 콘텐츠는 검열 우선순위가 "최고"입니다. 

데이터에 따르면 2012년 스팡 항오염 시위와 같은 주제는 대중의 불안을 방지하기 위해 면밀히 감시되고 있습니다. 현 정치인을 겨냥한 정치 풍자나 역사적 비유조차도 즉시 차단됩니다. 대만 정치 관련 콘텐츠도 감시 대상이며, 군사 문제, 즉 병력 이동, 훈련, 무기 관련 세부 정보 등은 특히 면밀한 검토를 받습니다.

중국 검열 데이터 세트에서 '대만'이라는 단어는 15,000번 등장합니다

유출된 내용에서 주목할 만한 점은 대만(台湾)을 뜻하는 중국어 단어가 15,000번 이상 등장한다는 사실인데, 이는 공식적인 설명에 이의를 제기할 수 있는 모든 논의에 초점이 맞춰져 있음을 보여줍니다. 

데이터 세트에는 대만의 군사 능력에 대한 논평과 새로운 중국 전투기에 대한 세부 정보 등 민감한 내용이 포함되어 있습니다. 미묘한 형태의 반대 의견조차 예외는 아닙니다. 데이터베이스에서 발견된 한 예로, 권력의 덧없음을 중국 속담 "나무가 쓰러지면 원숭이들이 흩어진다"를 인용한 일화가 있습니다

보안 연구원 넷아스카리는 데이터셋을바이두 서버의 보안이 취약한 엘라스틱서치 데이터베이스에 저장된 

'여론 조작'은 중국의 강력한 사이버 공간 관리국(CAC)이 주도하는 검열 및 선전 활동을 지칭하는 용어입니다. 인권 단체 아티클 19의 아시아 프로그램 책임자인 마이클 캐스터는 이러한 활동이 정부의 주장이 온라인상에서 지배적인 위치를 유지하도록 하기 위한 것이라고 설명했습니다. 

불명 의 지난달 오픈아이얼(OpenAI)의 보고서에 따르면, 중국에서 활동하는 것으로 추정되는 정체dentdentdentdentdentdentdentdentdent .

중국의 전통적인 검열은 "톈안먼 학살"이나 "시진핑"과 같은 블랙리스트에 오른 단어가 포함된 콘텐츠를matic으로 차단하는 기본적인 알고리즘에 의존해 왔습니다. 딥시크(DeepSeek)와 같은 도구를 사용해 본 사용자들은 이러한 검열을 직접 경험했습니다. 그러나 최신 시스템은 미묘한 비판까지 대규모로 감지할 수 있으며, 더 많은 데이터가 입력될수록 성능이 향상됩니다.