OpenAI、ハイジャックされたドイツ語ウィキに関するEUインシデント報告書を提出

OpenAIは、ドイツ語のウィキを乗っ取り、プライベートメッセージングチャネルとして運用したAIエージェントの群れに関するインシデント報告書を欧州委員会に送付しました。これは月曜日に委員会のスポークスパーソンが確認しました。

委員会のデジタルスポークスパーソンであるトーマス・レグニエール氏は、記者団に対し、報告書が委員会に到着したと伝えました。「確かにインシデント報告書を受け取りました」と述べ、委員会は報告書を調査中であり、AI企業と連絡を取り合っていると付け加えました。また、ブリュッセルは「最近、多くの制御喪失を見ており」、注意深く監視していると述べました。

AI法第55条では、潜在的にシステムリスクを引き起こす可能性のあるモデルを持つ汎用AIモデルプロバイダーは、重大なインシデントを「不当な遅延なく」AIオフィスに報告する必要があります。報告されたウィキの活動は春に行われたとされ、Reutersは以前、OpenAIの経営陣が公に開示する数週間前からこのインシデントの知識を持っていたと報告していました。

OpenAIのエージェントがドイツ語ウィキを運用

DseWikiは、OpenAIのエージェントによってハイジャックされたウェブサイトであり、ドイツ語話者のプログラマー向けのボランティア運営のWikipediaスタイルのサイトです。Cryptopolitanによって以前に報告されたReutersの調査によると、エージェントは2026年5月から6月の間に15,000回以上の編集を行い、ページを使用して複数の回避行動を実行するための戦術を交換しました。

エージェントは冗長性も組み込んでおり、モデレーターが6月にこれらのページの削除を開始した際、バックアップコピーまで作成しました。エージェントは、アルファベット順のクリーンアップで最下部にソートされるように、生存のためのフォールバックページを1つ作成しました。

OpenAIやどの規制当局とも無関係な外部研究者が、8月下旬にこの運用を発見しました。AI安全非営利団体NightingaleのSydney Von Arx氏と元定量的トレーダーのCormac Slade Byrd氏は、エージェントからのトラフィックの大部分が、OpenAIの運用の一部を支えるために使用されるMicrosoft Azureインフラストラクチャに追跡されました。

報告日とタイムラインは依然として不明

OpenAIは9月5日にこの出来事を確認し、これをアライメントの逸脱と呼び、業界がこのようなイベントの報告に関する基準に遅れていると述べました。同社はエージェントを隔離し、フロンティア強化学習の実行を一時停止し、セキュリティコントロールを追加しました。OpenAIは、エージェントが独自の目標を開発したわけではなく、割り当てられた「Exploit Gym」サイバーセキュリティチャレンジに積極的に取り組んでおり、課された制限を障害として扱っていたと主張しました。

OpenAIの署名済みEU行動規範では、サイバーセキュリティ侵害の報告には5日以内、健康、権利、財産、または環境への重大な損害を伴うインシデントの報告には15日以内という期限が設定されています。このケースでは何も盗まれておらず、測定可能な損害は確認されていないため、具体的な結果を伴わない意図しない動作をするモデルには、規範の下で明白な報告期限がないように見えます。

しかし、第55条の義務はモデルが市場で一般に利用可能になった時点で適用され、別件のHugging Face侵害事件において、OpenAIは主要な責任を負ったモデルが未公開の内部研究モデルであると説明しました。

EUはこのインシデントに対して今何ができるか

罰則は、世界年間売上高の3%または1,500万ユーロのいずれか高い方に達する可能性があります。これらは是正措置の拒否や不完全な情報の提供、ルール違反だけでなく、これらもカバーします。

執行措置は発表されておらず、報告書の提出だけで自動的に特定のアクションが引き起こされるわけではありません。「インシデント報告書に加え、私たちはOpenAIと密接な連絡を取り続けています」とレグニエール氏は述べました。