Anthropic、中国が2万4000件の偽アカウントを通じてClaudeデータを流出させた疑いを指摘

Anthropicは、3つの中国のAI企業がClaudeシステムからデータを抽出するために24,000件以上の偽アカウントを構築したと述べた。同社は、その目的は自社のモデルを急速に強化することだったと述べた。

名指しされた企業はDeepSeek、Moonshot AI、およびMiniMaxであった。Anthropicは、これらのアカウントがClaudeに1,600万回以上のプロンプトを送信し、再利用可能な回答やパターンを収集してトレーニングに使用したと述べた。

Anthropicは月曜日のブログ投稿で詳細を共有した。同社は、この活動は蒸留の一種であると述べた。このプロセスは、1つのモデルの出力を使用して別のモデルをトレーニングするものである。Dario AmodeiがAnthropicを率いている。

Anthropicは、DeepSeekがClaudeとの約150,000回のインタラクションを実行したと主張した。Moonshot AIは340万回以上のプロンプトを記録した。MiniMaxは1,300万回以上のプロンプトに達した。Anthropicは、この規模が速度を重視した価値の抽出という明確な意図を示していると述べた。

OpenAI、ワシントン州で同様の行動を指摘

今月初め、OpenAIは下院議員宛てのメモの中で、DeepSeekが同様の蒸留戦術を使用して自社のシステムをコピーしていると非難した。Sam Altman はOpenAIを運営している。最初にOpenAIを名指した後、同社は議員に対し、DeepSeekが大量のプロンプトを通じて自社の製品を模倣しようとしたと伝えた。

Anthropicは、蒸留自体に有効な用途があると述べた。企業は自社のモデルの小型版を構築するためにこれを使用している。Anthropicはまた、同じ手法を用いれば、競合システムを従来よりもはるかに短い時間とコストで構築できるとも述べた。

合成データは現在、大規模な基盤モデルのトレーニングにおいて大きな役割を果たしている。開発者は、高品質な実データが限られているため、これを使用している。多くのラボはまた、ユーザーに代わって行動できるエージェント型システムの構築も進めている。7月の技術レポートで、MoonshotはKimi K2モデルのトレーニングに合成データを使用したと発表した。

Anthropicは、この活動が国家安全保障上の懸念を高めると指摘した。同社は、米国のモデルを蒸留する外国のラボが、その能力を軍事、情報、監視システムに組み込む可能性があるとの見解を示した。

Anthropicが新たなセキュリティツールを発売、市場が反応

Anthropicはまた、金曜日にClaude用の新たなセキュリティツールを限定的な研究プレビューとしてリリースした。このツールはソフトウェアコードの脆弱性をスキャンし、修正を提案する。Anthropicは火曜日に、さらなる製品発表を伴う企業向けブリーフィングを開催する計画である。

市場は急速に反応した。月曜日、サイバーセキュリティ株は2日連続で下落し、投資家は新しいAIツールが既存のセキュリティサービスに取って代わることを懸念した。

CrowdStrikeは約9%下落した。Zscalerも約9%下落した。Netskopeはほぼ10%下落した。SailPointは6%下落した。Okta、SentinelOne、Fortinetはそれぞれ4%以上下落した。Palo Alto Networksは2%下落した。

Cloudflareは、Moltbotへの関心に関連する直近の上昇後、7%下落した。iShares Cybersecurity and Tech ETFはほぼ4%下落した。Global X Cybersecurity ETFは2023年11月以来の最低水準を記録した。

圧力はセキュリティ株を超えて広がっている。簡単なプロンプトからアプリやウェブサイトを作成するAIツールは、今年ソフトウェア業界に揺さぶりをかけている。

Salesforceは時価総額の約3分の1を失った。ServiceNowは34%以上下落した。Microsoftは約20%下落した。

Bank of Americaは、Anthropicのツールが主にGitLabやJFrogなどのコードスキャンプラットフォームを脅かすと指摘した。GitLabは金曜日に8%下落した。JFrogは同日25%下落した。