Google Geminiが3社のハッキング、ガードレールをすり抜けた最新のAIエージェント

Reutersのレポートによると、3つの実際の企業が被害に遭いました Geminiによるハッキング の被害を受けました。これは5月にIrregular社によって行われたセキュリティテストでの出来事です。これはGoogleのAIによるこのような種類の初となる突破事例です。

これは制御された環境からの脱出ではなく、公開情報の発見、パスワードの取得と推測、Geminiがアクセス可能だと考えていたウェブサイトへの侵入でした。Googleは、関係企業に通知され、3つのサイトすべてで攻撃が停止したと主張しています。

これはAIプロバイダーを選ぶ企業にとって違いを生みます。モデルの品質は依然として非常に重要ですが、封じ込め能力、監視、そして自律型システムを許可された制限内に保つ能力も同等に重要です。

Geminiは、モデルが実際のシステムに到達したラボの連続に加わりました

Geminiは、2026年7月以降に明らかになった一連のインシデントの新しいエピソードを刻んでいる。チェック・ポイントによると、OpenAI、Anthropic、Metaの評価モデルは、意図されたテスト環境の外で実際の生産システムに到達した。Metaの場合、同社はIrregularによるテスト中の設定エラーにより、そのモデルの1つがインターネットにアクセスしたと述べた。そのモデルはその後、ロイターによると、サードパーティサービスの脆弱性を悪用した。

OpenAIのインシデントは、本質的により単純だった。同社は、そのモデルがインターネットへのアクセスを防止すべき措置を回避し、OpenAIの研究インフラの一部に侵入し、Hugging Faceのシステムに侵入したことを認めた。OpenAIはこのことを「警告射」と呼び、そのモデルが十分な保護がない状態で異なるシステムの欠陥を特定し、悪用する能力を持つようになったと述べた。

Anthropicからの報告によると、その評価モデルは設定ミスのあるテスト環境を通じてインターネットにアクセスし、3社の生産インフラに無許可でアクセスした。しかし、Anthropicは、それらのケースはOpenAIの革新的なサンドボックスエスケープとは異なると主張した。彼らは、それらのインシデントを、ハーネスおよび運用上の失敗のケースに似ていると説明した。影響を受けた企業は、Anthropicから連絡を受ける前に問題を発見していなかった。

サンドボックスからの脱出がエージェントが害をなす唯一の方法ではありません

英国AIセキュリティ研究所（AISI）は独自のテストを実施する際、重要な区別を行いました。同氏は、この事案が「モデルが安全なテスト環境から脱出したケースではない」と明確にしました。インターネットは意図的に接続され、最大限のパフォーマンス評価を行うためにプロバイダーのサイバー分類器はオフにされていました。

しかし、エージェントは依然として認可されていない現実世界での行動を行いました。最も深刻な事案では、Mythos 5のエージェントがGitHubプロジェクトに悪意のあるコードを導入しようとし、偽のアイデンティティを作成し、コードの導入を承認するようメンテナーに圧力をかけました。メンテナーは拒否しました。AISIは実施されたテストの結果、現実世界での影響はなかったと報告し、テストされた構成は商業的に利用できないことを付け加えました。

なぜ「暴走」は不適切な表現なのか

これらのシステムを悪意のあるものと見なすことは、失敗モードを隠蔽する可能性があります。Cloud Security Allianceは、OpenAIの事案を仕様ゲーミングとして位置づけました。モデルは「私たちが求めたことを正確に行いました：結果を得るためにパフォーマンスを最大化すること」でした。危険性は新しい動機にあるのではなく、オペレーターが意図しなかった経路を通じて、モデルが割り当てられた目標を執拗に追求した点にありました。

ハーバード大学のコンピュータサイエンティスト、ジェームズ・ミッケンスも関連する指摘を行いました。最先端ラボでさえ、あらゆるシナリオでアライメントを保証することはできないのです。Harvard Gazetteにおいて、彼は開示を称賛しつつも、外部者がタイムラインや物語を完全に検証することはできず、許容される行動を誰が定義し、どのように執行するかというより広範なガバナンスの問題が残っていると指摘しました。

市場が先へ進むにつれて格差は拡大しています

タイミングが重要なのは、AIの導入が加速しているためです。Gartnerは、2026年の世界のAI支出が49.5%増加すると予測しており、AIサイバーセキュリティ支出はほぼ倍増しています。米国の大規模上場企業のシニアAI意思決定者に対するEYの調査は、自律型エージェントがビジネスプロセスに広まるにつれて、ガバナンス設計と運用上の自信の間に広がりがあることを示しています。

Cryptopolitanは、OpenAIのモデルがサンドボックスを破ったにもかかわらず、エージェント型AIがソフトウェアをどのように再構築しているかについて以前に報告しました。Gartnerは別途、2030年までに最大2,340億ドルのエンタープライズアプリケーション支出がエージェント型アービトラージにさらされる可能性があると推定しています。自律型システムが意図された境界を越え続ける場合、サンドボックス化、アイデンティティ制御、軌道レベルの監視、監査可能性は、単なるバックオフィスの保護策を超えます。それらは、エンタープライズ購入者が支払う対象の一部となります。