앤트로픽, 24,000개의 가짜 계정을 통해 클로드 데이터 유출 중국 비난

앤트로픽은 세 개의 중국 AI 기업이 클로드 시스템에서 데이터를 추출하기 위해 24,000개 이상의 가짜 계정을 구축했다고 밝혔다. 이 회사의 목표는 자체 모델을 빠르게 향상시키는 것이었다.

지명된 기업들은 딥시크, 문샷 AI, 미니맥스였다. 앤트로픽은 이러한 계정들이 클로드에 1,600만 개 이상의 프롬프트를 보내 훈련에 재사용할 수 있는 응답과 패턴을 수집했다고 밝혔다.

앤트로픽은 월요일 블로그 게시물을 통해 이 세부 정보를 공유했다. 이 회사는 해당 활동이 증류의 한 형태라고 밝혔다. 이 과정은 하나의 모델의 출력을 사용하여 다른 모델을 훈련하는 것이다. 다리오 아모데이가 앤트로픽을 이끌고 있다.

앤트로픽에 따르면 딥시크는 클로드와 약 150,000개의 상호작용을 실행했다. 문샷 AI는 340만 개 이상의 프롬프트를 기록했으며, 미니맥스는 1,300만 개 이상의 프롬프트에 도달했다. 앤트로픽은 이러한 규모가 속도를 내어 가치를 추출하려는 명확한 의도를 보여준다고 밝혔다.

오픈AI, 워싱턴에서 유사한 행동 보고

이번 달 초, 오픈AI는 딥시크가 자신의 시스템을 복제하기 위해 동일한 증류(t蒸馏) 전술을 사용했다고 의회 의원들에게 비난하는 메모를 보냈다. 샘 알트만 오픈AI를 운영한다. 오픈AI를 먼저 지명한 후, 회사는 의원들에게 딥시크가 대량의 프롬프트를 통해 자신의 제품을 모방하려 했다고 전했다.

앤트로픽은 증류 자체에 유효한 용도가 있다고 밝혔다. 기업들은 자체 모델의 더 작은 버전을 구축하기 위해 이를 사용한다. 앤트로픽은 동일한 방법으로 경쟁 시스템을 훨씬 적은 시간과 비용으로 생성할 수도 있다고 덧붙였다.

합성 데이터는 이제 대형 기반 모델 훈련에서 큰 역할을 한다. 개발자들은 고품질 실제 데이터가 제한되어 있기 때문에 이를 사용한다. 많은 연구소도 사용자를 대신해 행동을 취할 수 있는 에이전트 시스템을 구축하고 있다. 7월 기술 보고서에서 문샷은 자신의 Kimi K2 모델을 훈련하기 위해 합성 데이터를 사용했다고 밝혔다.

앤트로픽은 이 활동이 국가 안보 문제를 제기한다고 밝혔다. 이 회사는 미국 모델을 증류하는 해외 연구소가 이러한 기능을 군사, 정보, 감시 시스템에 투입할 수 있다고 밝혔다.

앤트로픽의 새로운 보안 도구 출시로 시장 반응

앤트로픽은 금요일 클로드를 위한 새로운 보안 도구를 제한된 연구 미리보기로 출시했다. 이 도구는 소프트웨어 코드의 취약점을 스캔하고 수정 사항을 제안한다. 앤트로픽은 화요일 더 많은 제품 발표와 함께 기업 브리핑을 진행할 계획이다.

시장은 빠르게 반응했다. 월요일 사이버 보안 주가는 새로운 AI 도구가 기존 보안 서비스를 대체할 수 있다는 우려로 이틀 연속 하락했다.

크라우드스트라이크는 약 9% 하락했다. Zscaler도 약 9% 하락했다. 넷스케이프는 거의 10% 하락했다. 세일포인트는 6% 하락했다. 오카타, 센티널원, 포티넷은 각각 4% 이상 하락했다. 팔로알토네트웍스는 2% 하락했다.

클라우드플레어는 몰트봇 관련 최근 상승세 이후 7% 하락했다. 아이셰어즈 사이버 보안 및 기술 ETF는 거의 4% 하락했다. 글로벌 엑스 사이버 보안 ETF는 2023년 11월 이후 최저치를 기록했다.

압력은 보안 주장을 넘어선다. 간단한 프롬프트에서 앱과 웹사이트를 구축하는 AI 도구들은 올해 소프트웨어 회사들을 흔들었다.

Salesforce는 시가총액의 약 3분의 1을 잃었습니다. ServiceNow는 34% 이상 하락했으며, Microsoft는 약 20% 떨어졌습니다.

뱅크오브아메리카는 앤트로픽의 도구가 주로 GitLab과 JFrog과 같은 코드 스캔 플랫폼을 위협한다고 밝혔습니다. GitLab은 금요일 8% 하락했고, JFrog은 같은 날 25% 떨어졌습니다.