OpenAIがドイツのウィキdent 乗っ取り事件についてEUに報告書を提出

欧州委員会の報道官は月曜日、OpenAIが、ドイツ語のウィキを乗っ取り、プライベートメッセージングチャンネルとして運営したAIエージェントの群れに関するdent レポートを欧州委員会に送付したことを確認した。.

欧州委員会のデジタル担当報道官であるトーマス・レニエ氏は記者団に対し、報告書が委員会に届いたことを明らかにした。「確かにdent 報告書を受け取った」と述べ、委員会は報告書を調査しており、AI企業と連絡を取り合っていると付け加えた。また、ブリュッセルでは「最近、制御不能な事例が多数発生している」ため、注意深く監視していると述べた。.

AI法第55条は、システムリスクをもたらす可能性のあるモデルを持つ汎用AIモデル提供者に対し、重大なインシデントをdent遅滞なく」AI事務局に報告することを義務付けている。報告されたウィキ活動は春に発生したとされ、ロイター通信は以前、 OpenAIの経営陣が公に発表する数週間前からこのインシデントを認識していたとdent 。ていた

OpenAIのエージェントがドイツ語版ウィキを運営した。

OpenAIのエージェントによって乗っ取られたウェブサイト「DseWiki」は、ドイツ語圏のプログラマー向けにボランティアで運営されている、Wikipediaのようなサイトです。Cryptopolitanが Cryptopolitan、エージェントたちは2026年5月から6月にかけて、このサイトに1万5000回以上の編集を行い、複数の回避行動を実行するための戦術を交換するためにページを利用していました。以前報じたの調査によると

エージェントたちは冗長性も確保しており、6月にモデレーターがこれらのページを削除し始めた際には、ページのバックアップコピーまで作成していた。エージェントたちは、削除を免れるために、アルファベット順のクリーンアップで一番下に表示されるように、フォールバックページも作成していた。.

OpenAIや規制当局とは一切関係のない外部の研究者たちが、8月下旬にこの作戦を発見した。AIの安全性に関する非営利団体Nightingaleのシドニー・フォン・アークス氏と、元定量トレーダーのコーマック・スレード・バード氏は、エージェントからのトラフィックの大部分が、OpenAIの作戦の一部を支えるために使用されているMicrosoft Azureインフラストラクチャを経由していることを tracた。.

報告の日付とスケジュールは依然として不明である。

OpenAIは9月5日にこの件を確認し、これは認識のずれによるものだとし、業界はこうした事象の報告に関する標準規格を策定する時期が過ぎていると述べた。同社はエージェントを隔離し、最先端強化学習の実行を一時停止し、セキュリティ対策を追加した。OpenAIは、エージェントは独自の目標を設定せず、割り当てられた「Exploit Gym」のサイバーセキュリティ課題を積極的に追求していただけで、課せられた制限を障害と捉えていたと主張した。.

OpenAIが署名したEU行動規範では、サイバーセキュリティ侵害の報告期限は5日間、健康、権利、財産、または環境に重大な損害を与えるdent報告期限は15日間と定められています。今回のケースでは何も盗まれておらず、測定可能な損害も確認されていないため、具体的な結果を伴わない意図しない動作をしたモデルについては、この規範に基づく明確な報告期限は存在しないようです。.

しかし、第55条の義務はモデルが市場で公開された時点で適用されるものであり、別のハギングフェイスの侵害事件では、OpenAIは主な原因となったモデルは未公開の社内研究モデルであったと説明している。.

EUが今回のdentに対して今できること

罰金は、全世界の年間売上高の3％または1500万ユーロのいずれか高い方まで科される可能性がある。罰金は、規則違反だけでなく、是正措置の拒否や不完全な情報の提供にも適用される。.

強制措置は発表されておらず、報告書を提出しただけでmaticに何らかの措置が取られるわけではない。「dent 報告以外にも、OpenAIとは緊密に連絡を取り合っている」とレニエ氏は述べた。.