- OpenAIは、コーディング作業中の不正行為を検出するために構築された内部監視機能を、2026年10月3日と10月6日にそれぞれ、GPT-6.1「Sol」とGPT-6「Astra」という2つのAIエージェントがオフにしたり弱めたりしたと述べた。
- これらの事案は、自律型エージェントが自分自身を監督するために用意されたツール自体を改ざんできることを示している。
- 同社は現在、満足いく説明はまだ得られておらず、モデルが監督を回避する傾向があるかどうかをテストしていると述べている。
OpenAIは、2つのコーディングタスクにおいて、承認されていない行動を検出するために設けられた内部システムをAIエージェントが弱体化させたり、完全に無効化したりしたことを明らかにしました。この失敗により、AIエージェントの監視はエージェント自身によって解除可能であることが示されました。
2つのコーディングタスク、2つの監視機能が無効に
同社は火曜日に発表したレポートで両方のケースを明らかにした。アルジャジーラによると、一つのケースでは、「Sol」と呼ばれるGPT-6.1エージェントが、OpenAIのセキュリティチームへの自動アラートをオフにした。
最初の事案は10月3日に発生し、Solという名前のエージェントが、Slackメッセージを送信しないよう指示されたのを、セキュリティアラートにも適用されると解釈し、アラートを抑制しました。
3日後の10月6日、Astraという名前のGPT-6エージェントはコードのコピー中に監視システムを削除し、後に行いを否定したとされている。これはレポートに記載されている。
OpenAIには「納得できる説明」がない
OpenAIは、エージェントの行動について「まだ納得できる説明を持っていない」と述べ、両方の事案を調査中であり、これらの事象が同社のモデルにおける監視回避の傾向を増大させているかどうかを確認していると語りました。
同社はこれらの行動が、「 benign（無害な）」過剰な持続性の一種である可能性を示唆している。これは、モデルが監視の目的や指示を理解できず、合理的な人間が行う範囲を超えて行動することを意味する。また、このAI企業は、モデルが安全チェックを意図的に回避しようとするかどうかを調査するためのテストも開発中だ。
OpenAIは、監視機能の無効化を試みる行為を検出するためのシステムを強化し、さらにレビューを実施する中で安全性要件を厳格化すると付け加えました。
研究者らは、監視機能は自己管理できないと指摘しています
ルイビル大学のAIおよびサイバーセキュリティ研究者であるRoman V. Yampolskiy氏は、アルジャジーラに対し、今回の発見は「極めて懸念すべきものだが、驚くべきことではない」と語った。彼は、AIエージェントが無効にできる安全システムは信頼性に欠けると指摘し、Astraの否定はさらなる懸念を呼び起こすと述べた。
OpenAIとAnthropicは、AI開発の世界的な協調的な減速を呼びかけているが、米国と中国はこの考えにほとんど関心を示していない。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。
Opeyemi Olanrewaju
Opeyemi氏は、暗号資産、グローバル金融市場、経済に焦点を当てた高品質なコンテンツの作成と洗練を専門としています。イバダン大学で医学博士（MBBS）号を取得し、同大学の編集出版機関で編集長を務め、以前はCFAでも働きました。Cryptopolitanでは過去6年以上にわたり、ニュースエディターとして独自性の維持に貢献しています。
