OpenAI, ChatGPT를 감시 도구로 사용하는 중국 관련 계정 정지

미국 최고의 인공지능 스타트업인 오픈AI는 감시 도구 개발에 관여했다는 이유로 ChatGPT의 여러 계정을 차단했습니다. 

2025년 2월에 발표된 회사 보고서에 따르면, 정지된 계정들은 중국과 연관이 있는 것으로 알려졌습니다. 이 계정들은 오픈아이얼의 모델을 사용하여 소셜 미디어 감시 도구에 대한 상세한 설명을 생성했는데, 이 도구는 서방의 시위에 대한 실시간 정보를 중국 보안 기관에 제공하는 데 사용되었다고 주장했습니다. 

차단된 계정들은 또한 OpenAI의 모델을 사용하여 그러한 도구를 구현하기 위한 것으로 보이는 코드를 디버깅하는 방법을 찾아냈습니다. 

중국이 의심받는 이유는 무엇인가? 

OpenAI는 인공지능을 이용한 통신 감시 또는 개인에 대한 무단 감시를 방지하기 위한 정책을 시행하고 있으며, 여기에는 개인의 자유와 권리를 억압하려는 정부 또는 정부를 대신하는 기관의 활동도 포함됩니다.

OpenAI는 행동 패턴 및 기타 분석 결과를 바탕으로 문제의 계정들을dent할 수 있었습니다. 해당 계정들이 OpenAI의 모델을 활용한 용도에는 문서 분석, 영업 프레젠테이션 생성, 소셜 미디어 활동 모니터링 도구 설명 작성, 정치인 및 주제 조사 등이 포함된 것으로 알려졌습니다.

높은 것으로 추정됩니다 중국계 계정일 가능성이 주로 중국 본토 업무 시간대에 활동했으며, 오픈아이디(OpenAI) 모델에 중국어를 입력하도록 유도했기 때문에 

OpenAI는 또한 해당 계정 소유자들이 자동화보다는 수동 조작 방식으로 도구를 사용하고 있음을 발견했습니다. 어떤 경우에는 하나의 계정에 여러 명의 운영자가 있는 것으로 나타났습니다.

이번 작전의 주요 활동 중 하나는 "첸위에 해외 여론 AI 비서"라고 불리는 제품에 대해 영업 프레젠테이션에 부합하는 상세한 설명을 작성하는 것이었습니다 

이 도구는 X, 페이스북, 유튜브, 인스타그램, 텔레그램, 레딧 등의 플랫폼에 올라온 게시물과 댓글을 분석하고 그 결과를 중국 당국에 제공하도록 설계되었습니다. 

유감스럽게도 OpenAI는 이러한 설명들을dent으로 검증할 수 없었으며, 이dent 인해 미국은 비상 경계 태세에 돌입했습니다. OpenAI의 수석 연구원인 벤 누이모에 따르면, 이 사건은 중국과 같은 권위주의 정권이 미국산 기술을 미국과 동맹국에 대항하는 데 이용하려는 시도의 한 예입니다.

"이는 비민주적인 행위자가 민주적인 목적, 즉 미국에 기반을 둔 AI를 비민주적인 목적으로 사용하려 했던 방식을 보여주는 매우 우려스러운 사례입니다. 그들이 직접 작성한 자료에 따르면 그렇습니다."

OpenAI는 또한 해당 계정들이 Meta의 오픈소스 AI 모델인 Llama의 한 버전을 포함한 다른 AI 도구들을 언급했다고 밝혔습니다. 

이 사건은 DeepSeek이 설립된 지 얼마 되지 않아 발생했습니다 

OpenAI는 중국산 AI의 위험성에 대해 지속적으로 경고해 왔습니다. 특히 DeepSeek이 자사의 R1 추론 모델로 벤치마크 테스트에서 다른 많은 미국산 모델들을 압도하며 미국 증시에서 대규모 기술주 매도세를 촉발한 이후 더욱 그렇습니다. 

DeepSeek의 우수성은 논란의 여지가 있으며, 제작사는 자사 제품을 대부분의 미국 기업들이 자체 개발에 사용한 비용보다 훨씬 저렴하게 만들었다고 주장합니다. 이러한 주장에 대해 대중의 반응은 엇갈렸지만, 많은 전문가들은 과장된 주장이라고 보고 있습니다. 

OpenAI는 DeepSeek 개발팀이 자사 모델 개발에 더 많은 비용을 투자했을 뿐만 아니라, DeepSeek이 자사 모델의 출력 결과를 추출하여 자체 모델을 만들었다고 비난했습니다. 

블룸버그 보도에 따르면, 오픈AI의 주요 투자자인 마이크로소프트는 해당 회사의 데이터가 무단으로 사용되었는지 여부를 조사하고 있습니다.

최근 백악관의 'AI 및 암호화폐 총괄 책임자'로 임명된 데이비드 색스는 오픈AI의 우려에 공감하며, 딥시크가 미국 AI 기업인 오픈AI의 모델을 활용하여 성능을 향상시켰을 가능성이 있다고 지적했는데, 이를 '지식 정제'라고 부른다.

삭스는 "딥시크가 여기서 한 일은 오픈AI 모델에서 핵심 지식을 추출해낸 것이라는 상당한 증거가 있다"고 말했다. 

그는 앞으로 몇 달 안에 미국의 주요 AI 기업들이 유사 모델 확산을 늦추기 위해 데이터 정제 방지 조치를 시작할 것이라고 덧붙였습니다.