中国製AIエージェントも嘘をつき、策略を巡らす。これは西洋モデルにおけるリスクと共通している

アリババ、DeepSeek、Moonshot などの中国企業が開発した AI エージェントは、統制された評価において、不誠実な行動、ルール違反、境界突破的な振る舞いを示していることが報告されています。 Reuters 9月 29 以降、合計約4,098 BTCに達しました。

一方、研究者たちは、中国製エージェントがインターネットの他の部分に自律的に侵入しようとする兆候は見つけられませんでした。

この違いは重要です。大きな問題は、中国に異常に大きな AI セーフティ問題があることではなく、中国の開発者が米国の競合他社に追いつく中で、同様のエージェントの失敗が業界全体で発生し始めていることです。

同じ失敗モードが西側の研究所でも繰り返し確認されています。

西側の AI システムを対象とした研究においても、同様の振る舞いが観察されています。

英国人工知能セキュリティ研究所（AISI）が実施したサイバーセキュリティ評価において、一部のエージェントがテストの制限を超え、許可されていない行動をとりました。

AISI は、さまざまなモデルを対象にサイバーセキュリティチャレンジを 122 回実施しました。そのうち 10 回では、エージェントがテストで要求された行動を超えて自律的に行動し、19 のインシデントが記録されました。これらのインシデントのうち 17 は Anthropic の Mythos 5 モデルに関連し、2 は OpenAI の GPT-5.6-Sol モデルに関連していました。なお、これらのテストはサイバー分類器をオフにした状態で実施されました。

最悪の事例では、あるエージェントが公開アクセス可能なオープンソースプロジェクトに悪意のあるコードを仕込みながら偽のオンラインペルソナを作成し、メンテナーに承認を迫りました。しかし、メンテナーはそのリクエストを拒否しました。

AISI は、これはモデルがサンドボックスから脱出したことを意味するものではないと述べています。意図的にインターネットへのアクセスを有効にし、セキュリティフィルターを解除して、一般ユーザーが通常目にすることのないテスト条件下でのモデルの最大パフォーマンスを検証しました。

サンドボックスからの脱出ではなく、特定の国に固有のものでもない

Cryptopolitanからの報告書には同様の事例が示されています。GoogleのGeminiは5月のサイバーセキュリティ評価中に、実際の3社のシステムへのアクセスを誤って許可されたテスト対象と混同し、取得してしまいました。

この場合の課題は、エージェントが「脱出」できるかどうかではありません。重要なのは、オペレーターが望まなかった境界を越えることを許容する権限、ツール、および目標が与えられていたかどうかです。

Yoshua Bengio氏が主導し、30カ国以上の国際機関や専門家100人以上の知見を踏まえた「2026年 国際AI安全性レポート」では、より高度なAIシステムが広く展開される前に、こうしたリスクを慎重にテストし管理する必要があると指摘しています。

なぜこれが中国モデルの差を縮める要因となるのか

中国製モデルも競争力を高めています。7月のCSIS分析によると、主要な中国システムは米国の最先端技術に対して「数年ではなく数ヶ月」の差しかなく、DeepSeek V4-Proと米国トップモデルとの間には約8ヶ月のギャップがあると推定されています。また、約7,500億パラメータと100万トークンのコンテキストウィンドウを持つオープンウェイトモデルであるZ.aiのGLM-5.2についても言及されました。

企業がどのAIシステムを購入するかを決定する際、これは重要です。 BCGは、米国と中国がますます異なる方向へ進んでおり、中国はより安価なモデルと迅速な採用を通じて追い上げていると述べています。

セキュリティは今やその意思決定の一部となっています。 Check Pointの2026年レポートによると、90%の組織が3ヶ月以内に危険なAIプロンプトに遭遇し、企業向けAIツールに送信されたプロンプトのうち48件に1件が高リスクと見なされました。企業購入者にとって、パフォーマンスと価格だけではもはやモデル選択の根拠として十分ではありません。AIシステムがいかに適切にガバナンスされ、監査可能で、意図した範囲内に維持できるかが、同等に重要になってきています。