OpenAI、Moonshot 関連キャンペーンを妨害し、AI 蒸留戦争が激化

OpenAI は中国の競合他社である Moonshot AI に対して、データスクレイピングの疑いを提起しました。複雑な問題を通じてモデルの思考プロセスを解読することを目的とした大規模なプローブ活動の一連の波が、Moonshot 関連のユーザーによる数千件の試みにつながったことを明らかにしました。

OpenAI の発表によると、7 月の初週から始まった Moonshot 関連の協調キャンペーンは、わずか 2 日間で 4,000 人以上のユーザーからの 16,000 件のリクエストに拡大しました。ChatGPT を開発する OpenAI は最終的に、さらに 15,000 人以上のユーザーにわたるクラスターに関連する活動を特定し、これらはすべて 7 月 28 日までに完全に阻止されました。

同社の分析によると、今回のキャンペーンによりデータベースの侵害、暗号化の破損、保存されたユーザーチャットの漏洩は発生しませんでした。しかし、攻撃者はプロンプトやモデル操作を悪用し、複雑で大規模な一連の行為を通じて禁止されている推論能力を視覚的に複製することに成功しました。これは利用規約に違反する行為です。

OpenAI は、蒸留を防ぐための追加のセキュリティ対策を講じたと発表しています

OpenAI によると、同社は 検出 また、暗号化された推論情報を異なるチャット間で転送し、別のチャットで復号化することで隠されたロジックを窃取しようとする一部のユーザーの試みを阻止しました。

これらの試みの大半は Moonshot に関連していました。同時に、他の第三者研究者も、クロスモデルやデータ圧縮に関する同様の脆弱性を同社に報告しています。

これまで ChatGPT の開発元は、今回の出来事を「敵対的蒸留」と表現し、ロジックの蒸留が敵対者に 先進技術を模倣させる可能性があると警告しています.

さらに、大規模な蒸留プロセスにより、安全性やアライメントへのコミットメントなしに、高度な AI 機能の開発に必要な時間を劇的に短縮できる可能性が示されました。

これまでのところ、OpenAI はこの蒸留の動向に対処するため、アカウントへのペナルティ措置を講じ、インフラを強化し、パートナーシップの構築を進めてきました。

さらに、不審なアカウントの停止、登録プロセスの強化、バックエンドセキュリティの向上、ユーザーコミュニティの監視範囲の拡大などを実施しています。

また、すべてのユーザー、ワークスペース、企業組織、モデルアーキテクチャに影響を与える、より堅牢な隠された推論保護も導入しました。

OpenAI の戦略的国家安全保障政策イニシアチブのリーダーであるキャロライン・ジアーは、さらなる強力な保護への投資を継続すると付け加えました。彼女は「私たちの懸念は、利用規約違反の問題であり、オープンモデルや正当な蒸留そのものではありません」と述べています。

なぜ AI モデルの蒸留がより大きな懸念となっているのか

モデル蒸留により、開発者はより能力の高い AI システムの出力を利用して、別のモデルのパフォーマンスを向上または再現することが可能になります。

正当な蒸留手法を用いてより小型で効率的なシステムを構築することは可能ですが、OpenAI は、不正な大規模抽出により競合他社が、開発に多大なリソースを要した機能を入手する恐れがあると主張しています。

同社は、今回のキャンペーンが特に懸念されるのは、関係者が ChatGPT を通常のタスクに使用しただけでなく、モデルに対して繰り返しクエリを送信し、有用な回答を他のシステムへ転送する自動化ワークフローを設計していたとされているためだと述べています。

十分な出力を取得することで、攻撃者はモデルの推論、コーディング、問題解決能力の一部を、その重みや基盤インフラストラクチャに直接アクセスすることなく再現できる可能性があります。

OpenAI の発表は、API や消費者向け製品を通じてますます高性能な AI モデルが広く利用可能になる中で、AI 企業にとって増大する課題を示しています。プロバイダーは、システムの広範なアクセス権限と、 proprietary な機能の体系的な抽出を防ぐための保護策とのバランスを保つ必要があります。

Anthropic も Moonshot の蒸留キャンペーンを特定しました

ここ数ヶ月、Anthropic はまた 問題を解決するため、HypurrFiは現在、Aaveのデプロイヤーおよびセキュリティ研究者と連携している。また、他のAaveフォークプロジェクトにもセキュリティに関する洞察を提供するよう連絡するよう促し、この脆弱性が自社の市場以外のプラットフォームにも影響を与える可能性があることを示唆した。 Claude を標的とした悪意のあるサイバーキャンペーンを複数停止させました。

これらの加害者には、国家支援を受けたと疑われる情報機関グループ、金銭目的のハッカー、政治活動家が含まれており、事件は2025年12月から2026年8月の間に発生しました。

彼らの特定の攻撃は、Claude の高価値な能力である論理的推論、コーディング、データ評価、および自動化されたエージェントワークフローを収集することに焦点を当てていました。

報告によると、5 つの異なる蒸留プロセスがほぼ 200百万台 不正なクエリを生み出しました。蒸留クエリの大部分はアリババによるキャンペーンからのもので、Anthropic はこれを同社の歴史上最大規模のデータ収集試みと特徴付けています。この特定のキャンペーンでは、2026 年 5 月から 7 月にかけて 1 億 5,100 万件のログ記録されたクエリが発生し、ピーク時には 1 日あたり約 300 万件に達しました。

もう一つの Moonshot AI キャンペーンは、中国軍からのクエリを直接 Anthropic に転送していたと報じられています。10 日間で、同社は 5,000 のアカウントからほぼ 30 万件のクエリを記録しましたが、そのほとんどが Opus モデルを対象としていました。

Moonshot は、米国の競合他社を急速に上回るペースで成長しているため、ワシントンで大きな注目を集めています。

北京はすでにシリコンバレーやトランプ政権からのデータ収集活動に関する過去の非難を無視しているが、ワシントンからの制裁が行われた場合、報復措置をとると警告している。