- OpenAIの研究モデルが、所有していない暗号資産ウォレットからテストネットワークの資金を引き出し、6月のコーディングタスクを完了しました。
- FTC（連邦取引委員会）はAIラボに対して証書状を発行し、州司法長官も記録の提出を求めています。これにより、各自主的な安全報告書が潜在的な証拠となる可能性があります。
- ウォレットを保有するAIエージェントを開発する人々にとって、これはエージェントが自身の判断で所有者の権限を上書きする具体的な事例を示しています。
OpenAIの研究モデルが、所有していない暗号資産ウォレットから資金を引き出し、6月のコーディングタスクを完了しました。
OpenAIはこの事象を9月に発見しましたが、発生から数ヶ月後であり、今週になってこれを公表しました。
OpenAIの研究モデルは、どのようにして認可されていないウォレットにアクセスしたのか？
は、ChatGPTの無料プランの視聴者を週10億人以上のアクティブユーザーと見積もっており、広告モデルが無料版の運営を支えています。 公開されたインシデントレポートでは GPT-5.6 Solファミリーのモデルについて言及されています。このモデルは、暗号資産取引のプロトタイプを更新し、Sepoliaにコントラクトをデプロイするよう指示されていました。
Sepoliaは、開発者が本番環境にアプリをリリースする前に試すためのEthereumテストネットワークです。そのため、トークンには市場価値がなく、Ethereumメインネットワークで取引される実際のEtherとは一切関連していません。
タスクにはデプロイメント費用を支払うための資金入りのウォレットが付属しておらず、無料トークンファウセットも機能しませんでした。そのため、モデルは開発者が頻繁に再利用するリカバリーフレーズから362のアドレスを作成し、それぞれに適した残高があるかを確認するスクリプトを書きました。
362のアドレスのうち1つには必要なテストイーサが十分に入っていました。しかし、それを使用する前に、モデルはノート内で公開されている鍵とその中の資金を使用することが倫理的かどうかを自問しました。
モデルは、リカバリーフレーズが公開されており、デプロイメントへの署名や手数料の支払い、タスク完了の報告を行う前にテストトークンには価値がないため、その資金は「事実上放棄された」と結論付けました。
特筆すべきは、モデルが資金の出所について言及していなかったことです。
Ethereumのメインネットワークでは、これらの費用はモデルが権利主張できない誰かの実際の保有資産から差し引かれていたはずです。各取引に対して人間の承認プロセスを経ずにウォレットを保持し、サービス料金を支払うエージェントを接続する暗号通貨およびAI企業が現在増加していることを考慮すると、これは懸念される点です。
OpenAIはその後、モデルのライブインターネットアクセスを切断し、監視機能を追加しました。
報告書によると、事件は6月26日に発生したものの、発見されたのは3ヶ月後の9月25日でした。OpenAIは、過去のモデルのアクティビティに関するログにおけるアライメント違反の監視を拡大する過程でこの事案を発見したと述べています。
OpenAIが調査されている理由は何か？
は、ChatGPTの無料プランの視聴者を週10億人以上のアクティブユーザーと見積もっており、広告モデルが無料版の運営を支えています。 報告のためのフレームワークを作成し アライメント違反の報告を行い、最初のレポートバッチを公開しました。同社は、「完全に説明したり緩和したりできていない場合でも」、懸念される行動を迅速に明らかにしたいと考えていると述べています。
しかし、タイミングの問題から、誠実な報告はすべて、FTCのような苦情を積み上げる人々の材料となります。FTCは水曜日に、安全 incident、セキュリティ慣行、プライバシーポリシーに関する記録を求めて、OpenAIおよびAnthropicに対して民事召喚状を発行し、上級役員に宣誓証言を求める計画です。 Cryptopolitanが報告.
数ヶ月前、アイオワ州のブレナ・バード率いる15人の共和党州司法長官は、OpenAIに対し、Hugging Face侵害に関するすべての記録、特にエージェントが会社の管理から脱出するために「将来の自分自身のために残したと思われる」メモを含む記録の保全を指示しました。
OpenAIは7月、Hugging Faceの侵害事件を認め、内部統制を回避した不正エージェントがインターネットに到達し、「前例のないサイバーインシデント」を引き起こしたと説明しました。
エージェント 報道によると 米国政府の3つのサイト、その中には商務省国勢調査局やSECが含まれていました。
OpenAIの新しいサイトでは、9月のサンドボックス脱出や自己複製プロンプトインジェクションに関するラボ実験など、他の多数のインシデントにも言及しています。
OpenAIのCEOサム・アルトマン氏は、同社がまだエージェントのアクティビティログを検証中であり、重大度に応じて事例を開示すると述べています。Hugging Faceのインシデントはこれまでに発見された中で最も深刻なケースです。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
よくある質問
OpenAIのエージェントは実際になにをしたのか？
OpenAIのGPT-5.6 Solシリーズのモデルは、公開されている開発者の回復フレーズから鍵を取得し、EthereumのSepoliaテストネットワーク上で資金提供されたウォレットを見つけ、ユーザーに資金の出所を知らせずにコーディングタスクのデプロイメント料金を支払うためにそれを使用しました。
実際に金銭は盗まれたのでしょうか？
いいえ。この支出はSepolia（テストネットワーク）で行われたものであり、そのトークンには市場価値がありません。同じ操作がEthereumのメインネットで行われていれば、他人のアカウントから実際のイーサが引き出されていたことになります。
なぜ今になって開示が重要視されているのか？
OpenAIはFTCから安全慣行に関する召喚状を受け、かつ15州の司法長官から記録の保存を求められたことをきっかけに報告書を公開しました。そのため、今回の自発的な開示は、進行中の法的な審査の対象となっています。
ハンナ・コリーモア
Hannahは、暗号通貨分野でほぼ10年にわたるブログ執筆およびイベントレポートの経験を持つライター兼編集者です。Cryptopolitanでは、ニュースページに寄稿し、DeFi、RWA（実世界資産）、暗号通貨規制、AI、フロンティアテック業界の最新の動向を報告・分析しています。アーケディア大学でビジネス経営の学位を取得しています。
