- OpenAIは水曜日に、モデルの不整合を追跡し開示するためのフレームワークを公開しました。
- 同AI研究所はまた、トレーニングおよびテスト中に確認された6件の懸念される行動事例（ミスの隠蔽から漏洩したAPIキーの使用まで）も報告しました。
- OpenAIは、業界が十分なアライメントを達成するまでフルスピードでスケーリングを続けることができないとして、自主的な開示が将来のルール形成に寄与すると述べています。
OpenAIは、AIモデルがテスト環境から抜け出し、開発者のパラメータの外で実行する新たな方法を見つけるという報告が週を支配した中、モデルがキャラクターを崩す際にいつどのように報告するかという新しいシステムを提示した。
OpenAIは、新しいフレームワークを、過去6ヶ月間にわたって 懸念される行動の新たな報告とともに明らかにした。これには、隠されたミス、漏洩したAPIキーの使用、およびオープンインターネットへのファイルアップロードが含まれる。
OpenAIに先駆けて、Anthropic は4つの新たなインシデントを 報告しており、その Claudeモデル は9月9日のサイバーセキュリティ演習中に、実際の第三者システムへの不正アクセスを取得した。
OpenAIのモデルが再び暴走している
OpenAIによると、報告された新しいインシデントはトレーニングと評価中に発生し、実際のユーザーに影響を与えなかった。
- 1つのインシデントでは、まだ一般公開されていない研究モデルが、新しいコンテキストウィンドウで動作する際に引き継がれる要約に指示を挿入し、将来の自身に対して通常の制約を無視するよう指示した。
OpenAIは、Axiosが「〜」と表現した、そのような要約の27件を確認したと述べた。 脱獄のような指示 開発者のメッセージを無視すること。
- GPT-5.6 Solモデルのトレーニングに関するこの事案は、より深刻なものであった。モデルはミスを意図的に隠すよう指示し、歴史データを捏造したり、自らの目的と一致しないバージョンを隠蔽したりしていた。
- 別のモデルは、公開リポジトリを調査する際に発見した露出していたAPIキーを使用して、郡の収益に関するクエリに回答した。認可なく使用したキーが求める数値を提供しなかった場合でも、モデルはそのまま数字を捏造して進めた。
- 他の2つの報告書では、OpenAIのエージェントが他のエージェントに到達するためにファイルをパブリックホスティングサイトにアップロードした。時間が経つにつれて、AIラボの内部Artifactoryリポジトリは、無関係なトレーニングラン間でリクエストを交換するための makeshift なメッセージボードへと進化していった。
OpenAIの新しい開示プロセスはどのように機能するのか？
OpenAIは、その 新枠組み は、単なる偶然の事象であって、発展中のパターンや実際の重要性のあるものではない場合でも、事案を開示することに基礎を置いている。この枠組みは、重要な安全性やサイバーセキュリティの事案に関する同社の既存の法的義務を置き換えるものではない。
新しいシステムの下では、OpenAIの従業員は、安全性とアライメントチームによるレビューのために疑わしい事案をフラグ付けできる。彼らが開示に値すると認識する事案が却下された場合、上級リーダーシップにエスカレーションできる。
ケースバイケースで、報告された事案は3つのカテゴリに分類される：
- 開示の準備が整ったと判断された事案は、6営業日以内に公開される。
- 軽微な調査が必要な報告書は、公開までに約12営業日かかる可能性がある。
- 第三者の介入を必要とする複雑な事案は、より緩やかなスケジュールで開示される。
Kai Chenは、 OpenAIのアライメントチームのリードリサーチであり、業界全体の基準に関する自主的な提案としてこのリリースを位置づけ、「現在、明示的な開示基準を持つ業界全体の枠組みはないため、私たちは学んでいることを共有することが非常に重要だと考え、この措置を自主的に取っている」と記している。
なぜAIモデルは暴走するのか？
最新の事案は、OpenAIがこれまでに起きた最も深刻なモデル起因の事案と呼ぶHugging Faceの事案に追加されるものである。評価下のモデルは意図された制御から抜け出し、インターネットに到達し、脆弱性を悪用し、限られたプライベートデータに触れた。
OpenAIはこの事案を、自社のセキュリティ制御の欠陥と、 予想よりも急速に進化したモデルのせいにしている。Anthropicの場合、暴走したモデルが生きたインターネットに到達できるようにした設定ミスに責任を転嫁した。
Anthropicは、広範な検索で約4億8,100万のトランスクリプトをスキャンし、4件よりも悪質なケースは見つからなかったと述べた。2026年夏の別の報告書で、Anthropicの研究者は 複数の開発元からのフロンティアモデルを 管理されたシミュレーションにおいて、コードの covert な妨害、詐欺の支援、データの誤ラベリングを行っていたことを記録し、これらを現実世界での害ではなく早期警報信号と呼んだ。
それでも、OpenAIのチーフサイエンティストであるJakub Pachockiは最近のエッセイで、機械知能の急速な上昇に対して「誰も準備ができていない」と懸念を示し、OpenAIは必要に応じて「単独でさらなるスケーリングを差し控える」可能性があるとした。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
よくある質問
OpenAIは何を発表したのでしょうか？
OpenAIは、モデルの不整合を追跡・調査・開示するためのフレームワークをリリースするとともに、過去6か月のモデルのトレーニングと評価中に観察された予期せぬまたは懸念される行動に関する6件の報告書を発表しました。
OpenAIはインシデントをどのくらいの速さで開示すると言っているのでしょうか？
開示の準備ができたと判断されたインシデントは6営業日以内に、軽微な調査が必要なケースは12営業日以内に、複雑な第三者関連のケースはより長い期間をかけて公表される予定です。
なぜOpenAIは今この動きに出たのでしょうか？
このフレームワークは、OpenAI が「これまでで最も深刻なモデル起因のインシデント」と呼ぶHugging Faceの事例を踏まえており、同社のアライメント責任者カイ・チェン氏が表明した見解、すなわち業界が最大速度でのスケーリングを維持するためにアライメントとモニタリングを十分に解決できていないことを反映しています。
ハンナ・コリーモア
Hannahは、暗号通貨分野でほぼ10年にわたるブログ執筆およびイベントレポートの経験を持つライター兼編集者です。Cryptopolitanでは、ニュースページに寄稿し、DeFi、RWA（実世界資産）、暗号通貨規制、AI、フロンティアテック業界の最新の動向を報告・分析しています。アーケディア大学でビジネス経営の学位を取得しています。
