- 조사 결과 OpenAI는 ChatGPT를 이용해 감시 도구를 개발한 것으로 보이는 여러 계정을 정지시켰습니다.
- 해당 회사가 발표한 보고서에 따르면, 정지된 계정은 행동 패턴을 기반으로 식별되었으며 중국과 연결된 것으로 확인되었습니다.
- 이러한 OpenAI의 조치는 독재 정권이 AI 기술을 억압적 목적으로 사용하는 것을 방지하겠다는 회사의 의지를 강조합니다.
미국 최고의 인공지능 스타트업인 오픈AI는 최근 ChatGPT의 여러 계정을 금지했으며, 이 계정들이 감시 도구 개발에 관여했다고 비난했다.
2025년 2월에 발표된 회사 보고서에 따르면, 정지된 계정들은 중국과 연결된 것으로 알려졌다. 이 계정들은 오픈AI의 모델을 사용하여 소셜 미디어 청취 도구에 대한 상세한 설명을 생성했으며, 이는 서방의 시위에 대한 실시간 피드백을 중국 보안 기관에 제공하는 데 사용되었다고 주장했다.
금지된 계정들은 또한 오픈AI의 모델을 사용하여 그러한 도구를 구현하기 위한 것으로 보이는 코드의 디버깅 방법을 찾아냈다.
왜 중국이 의심받는가
오픈AI는 개인 자유와 권리를 억압하려는 정부 또는 정부 대행을 포함한 개인에 대한 통신 모니터링 또는 무단 감시에 AI가 사용되는 것을 방지하기 위한 정책을 마련했다.
오픈AI는 기타 발견 사항들을 바탕으로 행동 패턴을 통해 문제의 계정들을 식별할 수 있었다. 일부 계정들은 문서 분석 지원, 영업 피치 생성, 소셜 미디어 활동 모니터링을 위한 도구 설명 생성, 정치 행위자 및 주제 연구 등을 위해 오픈AI의 모델을 사용한 것으로 알려졌다.
이 계정들은 중국 기원 으로 의심되는데, 이는 그들의 활동이 주로 중국 본토의 영업 시간 동안 발생했고, 계정들이 중국어로 오픈AI의 모델을 프롬프트했기 때문이다.
오픈AI는 또한 계정 배후의 사람들이 자동화가 아닌 수동 프롬프팅과 일관된 방식으로 도구를 사용하고 있음을 발견했다. 일부 사례에서는 한 계정에 여러 명의 운영자가 있었을 가능성이 발견되었다.
이 운영의 주요 활동 중 하나는 ‘치엔위에 해외 여론 AI 어시스턴트(Qianyue Overseas Public Opinion AI Assistant)’라고 설명되는 것에 대한 영업 피치와 일관된 상세한 설명을 생성하는 것이었다.
이 도구는 X, Facebook, YouTube, Instagram, Telegram, Reddit와 같은 플랫폼의 게시물과 댓글을 분석하고, 그 결과를 중국 당국에 제공하는 것을 목적으로 설계되었습니다.
불행히도 OpenAI는 이러한 설명을 독립적으로 검증하지 못했으며, 이 사건으로 미국은 경계 태세를 강화했습니다. OpenAI의 수석 연구원인 Ben Nuimmo에 따르면, 이 사례는 중국과 같은 권위주의 정권이 미국과 동맹국에 대항하기 위해 미국산 기술을 악용하는 방법을 보여주는 예시입니다.
“자신들이 생성한 자료에 따르면, 이는 한 비민주적 행위자가 민주적이거나 미국 기반의 AI를 비민주적 목적으로 사용하려는 방식을 엿볼 수 있는 매우 우려스러운 사례입니다.”
OpenAI는 또한 해당 계정들이 Llama를 비롯한 다른 AI 도구들, 특히 Meta의 오픈소스 AI 모델 버전을 언급했다고 밝혔습니다.
이 사건은 DeepSeek의 탄생 얼마 후 발생했습니다.
OpenAI는 중국 AI의 위험성에 대해 경고를 이어왔으며, 특히 DeepSeek가 R1 추론 모델로 얼굴을 왜곡하는 사건 이후 미국은 높은 경계심을 유지하고 있습니다. 이 모델은 벤치마크에서 많은 미국산 모델들을 제쳤고, 미국 시장에서 큰 기술주 매도 현상을 초래했습니다.
딥시크(DeepSeek)’s 우월성은 논쟁의 여지가 있으며, 제작자들은 자신들이 미국 모델들을 구축하는 데 드는 비용의 일부로 이를 만들었다고 주장합니다. 이 주장은 대중으로부터mixed reactions를 받았지만, 많은 전문가들은 이것이 과장되었다고 확신합니다.
OpenAI는 DeepSeek 팀이 이 프로젝트에 더 많은 비용을 지출했다고 확신할 뿐만 아니라, DeepSeek가 자신의 모델을 만들기 위해 OpenAI 모델의 출력을 증류(distill)했다고 비난했습니다.
Bloomberg의 보도에 따르면, OpenAI의 주요 투자자인 Microsoft는 현재 자사의 데이터가 무단으로 사용되었는지 여부를 조사 중입니다.
최근 백악관에서 임명된 ‘AI 및 암호화폐 전권대표’인 David Sacks는 OpenAI의 우려를 지지하며, DeepSeek가 더 나은 성능을 얻기 위해 미국 AI 기업의 모델을 사용했을 수 있다고 제안했습니다. 이 과정은 지식 증류(knowledge distillation)라고 불립니다.
“DeepSeek가 여기서 수행한 작업은 OpenAI 모델에서 지식을 증류해냈다는 강력한 증거가 있습니다,”라고 Sacks는 말했습니다. 는.
그는 향후 몇 달 동안 미국의 주요 AI 기업들이 모방 모델들의 확산을 늦추기 위해 증류를 방지하기 위한 조치를 취하기 시작할 것이라고 덧붙였습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
한나 콜리모어
한나는 암호화폐 분야에서 거의 10년 간의 블로그 작성 및 이벤트 리포팅 경험을 가진 작가이자 편집자입니다. 크립토폴리탄에서 한나는 뉴스 페이지에 기여하며 DeFi, RWA, 암호화폐 규제, AI 및 프론티어 테크 산업의 최신 동향을 보도하고 분석합니다. 그녀는 아카디아 대학교에서 경영학 학위를 취득했습니다.
