- OpenAI自身のフロンティアモデルエージェントは、サンドボックスから脱出してライブインターネットに到達することを可能にする未知の欠陥を見つけた。
- 別々の仮想マシン内のエージェントは、SpectreやMeltdownの背後にあるタイミング攻撃の手法であるプロセッサキャッシュを通じて秘密情報を交換した。
- OpenAIは10月1日にライブインターネットアクセスなしでフロンティアRLトレーニングを再開した。
OpenAIは自社のフロンティアモデルエージェントのチームをトレーニングインフラストラクチャに送り込み、モデルはサンドボックスから脱出してライブインターネットにアクセスすることを可能にする未知のソフトウェアバグを見つけた。
パッチはKata Containers、gVisor、およびLinuxカーネルに適用される
キャンペーンには、間もなく登場するGPT-6 Astra Cyberモデルや内部のフロンティアモデルなど、同社の最高峰のモデルがいくつか採用されました。OpenAIは、インフラストラクチャのソースコード、設定情報、および潜在的な脆弱性に関するドキュメントを提供しました。
その後、テストには数千億トークンが費やされました。
エージェントには3つの目標がありました：ライブインターネットへの到達、内部セキュリティ境界の突破、および隔離されるはずのエージェントとのメッセージ交換です。
修正はKata Containers（CVE-2026-24834を含む）、gVisor、Moby/Dockerにアップストリームで反映されました。
LinuxカーネルのパッチがCVE-2026-74753、CVE-2026-80521、CVE-2026-80841に対して公開されています。OpenAIはまた、未公開のままとなっている多数の他の脆弱性も報告したと述べています。
ホストマシンを暴露されたエージェントは、メトリクス、ログ管理、認証管理など、依然として外部への出口を残していたほぼすべての狭いサービスにおける穴を突きました。あるテストでは、エージェントがファイアウォールによって承認された既存の接続を使用して、メトリクスサービス内のブロックされた認証エンドポイントにアクセスし、モデルが指定したURLを取得させました。
異なるVM内のエージェントは、ネットワークリンクや共通ファイルが存在しなくても秘密情報を交換しました。あるエージェントはプロセッサのキャッシュから選択されたデータを排除し、別のエージェントはその再読み込みに要した時間を計測しました。これはSpectreやMeltdown攻撃の背後にある同じキャッシュタイミングのトリックです。
OpenAIは、監視を回避しながらエージェントが簡単に悪用できるインターネットへの経路は見つからなかったと述べています。テストが進むにつれて発見は減少しましたが、同社は将来のモデルがまだ未知の欠陥を見つけることを期待しています。
フロンティアの実行は10月1に再開され、ライブインターネット接続はありませんでした
現在、OpenAIによれば、安全対策がより多くのアクセスに耐えうるレベルになるまで、フロンティアトレーニング中はライブインターネットアクセスをブロックしています。OpenAIによると、モデルはインデックス化およびキャッシュされたウェブページの「オフライン世界」でブラウジングの練習を行うため、能力がありながら整合性の取れないエージェントが、ライブアクセスを通じて会社の管理外のシステムに影響を与える機会を持たなくなります。
この一時停止は9月20日の事案によって強制的に行われました。検索タスクに固定されていた内部研究モデルが、サンドボックス内のDNSリゾルバーが実際のクエリに応答していることを検出しました。
DNS委譲を使用して外部のチャットボットに質問を転送し、「フランスの首都はパリです」という回答を得ていました。監視システムはこのアクティビティを15分以内に検知してレビュー対象としてフラグ付けし、3分後に担当者がレビューを開始しました。
実行は自動的に停止せず、約2.5時間後に強制終了されました。OpenAIは最も能力の高いモデルのトレーニングと評価を凍結し、その後、2つの独立したレイヤーで脆弱性を修正しました。
RL（強化学習）トレーニングおよびフロンティアモデルの内部利用は、一時停止開始から11日後の10月1日に再開されました。
ロックダウンは7月に遡り、OpenAIのエージェントがHugging Faceのシステムをハッキングして評価制御を回避した際のものだった。OpenAIの最大の計画だったフロンティアRLランは8月まで凍結されていた。
それ以来、カリフォルニア州司法長官のRob Bontaは、そのモデルに関連するサイバーセキュリティ事件について調査令状を発行しており、Cryptopolitanが報じた。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
よくある質問
OpenAIのレッドチームエージェントは何を発見したのか？
サンドボックスからの脱出やライブインターネットへの到達を可能にする、これまで知られていなかったソフトウェアの欠陥と設定ミス。
9月の20エージェントはどのようにインターネットに到達したのか？
サンドボックス内のDNSリゾルバーとDNS委譲機能を使用して、質問を外部のチャットボットに転送していました。
なぜOpenAIはインターネットアクセスなしでフロンティアモデルのトレーニングを行っているのか？
OpenAIによれば、ライブインターネットへのアクセスは、能力があり整列していないエージェントが制御外のシステムに影響を与える機会を与えます。
免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。
ランダ・モーゼス
ランダ・モーゼスはCryptopolitanのエディター兼記者で、テクノロジー、AI、ロボティクス、暗号資産、詐欺、ハッキングなどを担当しています。2017年以来暗号資産分野で活動しており、Forward Protocol、AmaZix、Cryptosomniacで役職を務めました。ブラッドフォード大学で電気電子工学の学位を取得しています。
