- OpenAI는 중국 AI 스타트업 DeepSeek가 정교한 지식 증류 기법을 통해 미국 AI 모델을 추출하고 복제하기 위해 접근 제어를 우회한다고 미국 의원들에게 알립니다.
- 이 서한에는 DeepSeek 시스템 내 alleged된 검열, CCP 친화적 편향, 동적 콘텐츠 억압에 대한 내용이 상세히 기술되어 있으며, 안전 장치 부재에 대한 우려도 제기됩니다.
- OpenAI는 또한 중국의 급속한 에너지 확장과 칩 접근성을 강조하며, 컴퓨팅 능력과 인프라가 심화되는 미중 AI 경쟁의 핵심 요소라고 경고합니다.
오픈AI는 중국 인공지능 스타트업 딥시크가 플랫폼 안전 장치를 우회하고 모델 출력을 추출하여 미국 AI 시스템을 복제하려고 시도하고 있다고 미국 정부에 경고했다.
ChatGPT 대형 언어 모델의 개발자는 목요일 미국 하원 중국 공산당과의 전략적 경쟁 특별위원회에 보낸 메모에서 항저우 기반 경쟁사가 미국 프론티어 연구소들이 개발한 기술을 체계적으로 표절했다고 비난했다.
https://twitter.com/niubi/status/2022132145465307425
보고서는 딥시크가 "오픈AI 및 기타 미국 프론티어 연구소들이 개발한 능력을 '무료로 이용'해 왔다"고 주장하며, 이를 '디스틸레이션(distillation)'이라고 불리는 관행이라고 설명했다.
"우리는 딥시크 직원과 관련된 계정이 오픈AI의 접근 제한을 우회하고 출처를 숨기는 오버퍼드 서드파티 라우터 및 기타 방법을 통해 모델에 접근하는 방법을 개발하는 것을 관찰했다"고 회사는 별도의 글에서. "딥시크 직원들은 미국 AI 모델에 접근하고 디스틸레이션을 위해 프로그래밍 방식으로 출력을 얻기 위한 코드를 개발했다."
워싱턴과 베이징은 약 12개월 전 딥시크가 데뷔한 이후 최상위 AI 자리를 놓고 경쟁해 왔다. 중국 LLM 모델이 출시된 후, 미국 하원 특별위원회는 CCP가 오픈AI에 딥시크가 개발 과정에서 미국 기술이나 AI 칩을 사용했는지 조사할 것을 요청했다고 관찰했다.
ChatGPT 제작사, 딥시크의 불법 디스틸레이션 비난
샘 알트만이 이끄는 이 기술 기업에 따르면, 중국 행위자들은 미국 AI 합성 데이터 생성 연구소들의 방법을 모방하기 위해 정보 파이프라인을 사용하고 있다. 이 회사는 또한 일부 중국 기업들이 법 집행 기관을 피하기 위해 오픈AI 서비스의 무단 재판매자 네트워크를 생성했다고 보고했다.
"디스틸레이션에는 합법적인 사용 사례가 있다: 더 진보된 시스템의 출력을 사용하여 더 작은 모델을 훈련하는 데 사용되는 기술이다. 오픈AI는 개발자들을 위한 책임감 있는 디스틸레이션 경로를 제공한다. 그러나 우리는 우리의 출력이 우리의 능력을 복제하는 모방 프론티어 AI 모델을 만드는 데 사용되는 것을 허용하지 않는다."
OpenAI.
오픈AI는 또한 적대적 디스틸레이션을 통해 능력을 복사하는 것이 동등한 안전 프레임워크 없이 수행될 경우, 소비자 보호가 결여된 시스템을 생성할 수 있다고 경고했다. 이러한 시스템의 결함은 배포 후 위험을 관리하기 더 어려워질 때만 표면화될 수 있다고 말했다.
기술적 비난 외에도, 오픈AI의 메모는 딥시크의 콘텐츠 거버넌스가 정치적 편향을 보이고 광범위한 검열을 부과한다고 지적했다. 회사의 관할권 내에서, 중국에서 가장 널리 사용되는 LLM은 최근 릴리스에서 심각한 CCP 친화적 편향을 보였다.
"이 모델은 CCP에 대한 부정적이거나 비판적인 언어를 피하고, 중화인민공화국의 노력과 성과에 대한 긍정적인 언어를 사용하며, 미국이나 서방을 논할 때 부정적인 언어를 사용할 것이다."
오픈AI 메모.
오픈AI는 베이징에 민감한 주제인 천안문이나 대만 독립과 같은 질문에 딥시크(DeepSeek) 질문했을 때, 딥시크가 종종 명확한 거부를 내렸다고 말했다. 다른 경우, 딥시크는 중국 공화국 우호적 이야기에 대해 편향된 응답을 제공하고 CCP에 대한 비판으로 보이는 프롬프트를 리디렉션했다.
"어떤 경우에는 딥시크가 '해롭다'고 판단하는 질문에 대한 답변을 거부한다. 왜 그 질문이 해로운지 묻자, '안전 원칙'을 설명한 후 대화를 삭제하는 것이 관찰되었다. 파룬궁에 대해 묻자 답변을 거부했고, 설명을 찾자 '파룬'이라는 단어가 완성되자마자 응답이 즉시 자기 삭제되었다."
OpenAI.
미국, 기술 칩으로 인해 중국보다 우위
오픈AI의 미국 정책 입안자들에게 보낸 메모에 따르면, AI에서 가장 희소한 자원은 코드를 실행하는 데 필요한 결합된 전력 및 칩 자원인 컴퓨팅 파워(compute)이다. 미국 우위를 유지하는 것은 컴퓨팅 수요를 지원하기 위해 전력을 대규모로 생성하고 공급하는 능력에 달려 있다고 말했다.
지난달, 이 사안에 정통한 두 소식통은 중국 당국이 규제 조건이 아직 최종 확정 중인 조건 하에 딥시크가 엔비디아의 H200 인공지능 칩을 구매하는 것을 승인했다고 기자들에게 전했다.
도널드 트럼프 미국 대통령 승인했다 엔비디아의 H200 칩을 베이징으로 선적하겠다는 요청을 1월 초에 승인했지만, 중국 규제 기관이 선적을 허용할 최종 권한을 가지고 있다. 당시 엔비디아 최고경영자 젠슨 황은 자사가 중국의 승인을 받았다는 소식을 받지 못했다고 말했다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
플로렌스 무차이
플로렌스는 지난 6년 동안 암호화폐, 게임, 기술 및 AI 뉴스를 다루어 왔습니다. 메루 과학기술대학교에서 컴퓨터학을, MMUST에서 재난 관리 및 국제 외교를 전공하며 언어, 관찰력 및 기술적 역량을 충분히 갖추었습니다. 플로렌스는 VAP 그룹에서 근무했으며 여러 암호화폐 미디어 하우스의 편집자로 활동했습니다.
