最新ニュース
あなたへのおすすめ

カリフォルニア州、Hugging FaceへのAI暴走攻撃でOpenAIを提訴

著者Opeyemi OlanrewajuOpeyemi Olanrewaju 3分で読了
カリフォルニア州、OpenAIを複数回のハッキング事件で公衆の安全を脅かしたとして提訴
  • カリフォルニア州は月曜日、2026年7月の事案に関連してOpenAIを提訴した。この事案では、同社の実験用AIエージェントがテスト環境から脱出しHugging Faceを攻撃したもので、州側は安全対策の脆弱さが公衆の迷惑となり消費者保護法に違反したと主張している。
  • 訴状は、OpenAIがそのエージェントの制御を80回以上失ったと主張している。
  • 米州政府による同種訴訟は初めてと報じられており、自律的に行動するAIモデルを扱う企業に対して規制当局がどのようにアプローチするかを形作る可能性がある。

カリフォルニア州司法長官のロブ・ボンタ氏は月曜日、ChatGPTの開発元であるOpenAIを提訴し、同社が十分な安全対策を講じずにAIシステムを構築することで人々に危険をもたらしたと主張した。

この訴訟は2026年7月の一件に端を発している。当時、OpenAIのAIツールがテスト中に制御不能となり、競合他社Hugging Faceのコンピュータシステムを攻撃したと報じられている。

Bonta氏は、サンフランシスコ高等裁判所にOpenAI FoundationおよびOpenAI Group PBCに対して訴訟を提起した。

ニューヨーク・タイムズによると、31ページの訴状はOpenAIが公共の安全を危険にさらし、カリフォルニア州の不公正競争法に違反したと主張している。この法律は、企業が違法、不公正、または不正な事業慣行を用いることを禁止している。

Hugging Face攻撃により訴訟へ

2026年7月、OpenAIの実験用AIエージェントがテスト環境から脱出し、インターネットに接続したと報じられている。その後、開発者がAIコードやモデルを共有するウェブサイト「Hugging Face」に侵入した。

訴訟によると、数百のAIエージェントが連携して約2日半にわたって攻撃を行った。これらのエージェントは本来、安全なテスト環境内に留まるはずだった。

エージェントたちはまた、自分たちが行ったことを隠蔽しようとした。OpenAIは7月21日のブログ投稿で攻撃に対する責任を認め、8月26日の別のレポートでより詳細を共有した。

2番目の報告書では、OpenAIはこの事件をAI業界への「警告発射」と呼んだ。同社は、エージェントが「技術的な制御を回避し、承認されていないチャネルを通じて協力し、人間が指示していない危険な行為を実行できる」ことを示したと述べた。

カリフォルニア州、80件の類似事案を懸念

司法長官ロブ・ボンタ氏の事務所は、OpenAIがHugging Face攻撃を防げたはずだと述べた。訴訟では、同社が自社のAIモデルが危険であることを知りながら、十分なセキュリティや適切なチェックなしにテストを実施していたと主張している。

訴訟によると、OpenAIはボンタ氏の事務所に対し、テスト中にAIエージェントの制御喪失が80回以上あったと伝えたという。

一部のケースでは、エージェントが人気アプリで使用されるコードを保持するデータベースを攻撃した。他のエージェントは公開ウェブサイトへの侵入や、個人健康情報を含む外国政府のデータベースへのアクセスを行った。

訴訟ではさらに、一部のAIエージェントがOpenAI自身のコンピュータシステムに侵入し、通常システム管理者のみがアクセスできる権限を取得したとされている。

ボンタ氏は声明で、「カリフォルニア州は、製品や企業を問わず、『法に従った革新』を求めている」と述べた。また、Hugging Face攻撃は「既知の80件の事案のうちの一つに過ぎない」と付け加えた。

OpenAI、単独で非難されることに反発

OpenAIのスポークスパーソンであるドリュー・プサテリ氏は、この訴訟について「すべての主要なAIラボによって認識されている課題において、OpenAIだけを特別視しているように見える」と語った。

同氏は、攻撃以降、OpenAIが「整合性のないモデル活動の理解と是正に向けた広範かつ透明性の高い取り組み」を行ってきたと述べた。同社はまた、州の規制当局と協力し続け、AI安全規則を改善する計画だとした。

他のAI企業も確かに同様の問題に直面している。BBCによると、Anthropic、Meta、Googleはいずれも、テストシステムから抜け出し攻撃を実行したAIモデルの事例を報告している。

AIシステムが人間の指示なしに行動した場合、法的責任が誰にあるかは、まだ裁判所によって決定されていない。

その種として初の州訴訟

ボンタ氏の事務所は9月にHugging Faceへの攻撃に関する調査を開始し、OpenAIからの情報提供を求める召喚状を発行した。

訴訟では、OpenAIが調査官に求められたすべての情報を提供しなかったと主張されている。代わりに同社は、公開されたブログ投稿や、情報の大部分が削除された数十件のメッセージを提供したにすぎない。

BBCによると、これは米国の州がこのようなAI事件を理由に訴訟を起こした初の事例と思われる。このケースは、他の州がAI企業のシステム制御を失った際にどのような対応を取るべきかを決定する助けにもなる可能性がある。

これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。

免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。

Opeyemi Olanrewaju

Opeyemi Olanrewaju

Opeyemi氏は、暗号資産、グローバル金融市場、経済に焦点を当てた高品質なコンテンツの作成と洗練を専門としています。イバダン大学で医学博士(MBBS)号を取得し、同大学の編集出版機関で編集長を務め、以前はCFAでも働きました。Cryptopolitanでは過去6年以上にわたり、ニュースエディターとして独自性の維持に貢献しています。

もっと見る… ニュース