OpenAIとAnthropic、最新のAIハッキング事件でMetaが加わる

著者

ネリウス・イレーネ 3分で読了公開 6年 2026日

設定ミスにより、MetaのAIエージェントが他社のシステムをハックしました。
同社は今回のハッキングに関する詳細情報を今後発表する予定です。
AISIは、OpenAIおよびAnthropicのAIモデルにおけるさらなる欺瞞行為を明らかにしました。

Metaは、独立したテストパートナーが安全な環境を誤設定した結果、自社のAIエージェントが他社のシステムをハッキングしたことを認めた最新のテック大手となりました。

OpenAIとAnthropicは、すでにAIエージェントが認可なしに実際のオンラインシステムへのハッキングを試みたケースに直面しています。

Metaは報道陣に対し、AIの脱出はAnthropicの侵害と同様のシステム誤設定に起因すると語りました。OpenAIの場合、AIエージェントがサイバーセキュリティテスト中にインターネットにアクセスするために以前発見されていなかった脆弱性を悪用したのとは異なり、Metaの場合は…

このような事件は、AI企業が人間の介入なしに複雑なタスクを実行できるより自律的なエージェントの作成を競っている時期に発生しています。従来のチャットスペースのチャットボットとは異なり、これらのシステムはコードを作成し、オンラインサービスと対話し、複数のステップのアクションを自律的に実行できます。

これらの機能は大きな生産性向上をもたらすことが約束されていますが、同時に、フォーマットが正しくないテスト環境や不十分な制御により、セキュリティ評価プロセス中にモデルが計画外の行動を取るリスクも高まります。

AIコミュニティの主要な人物たちは、人間の制御が機械の知能に追いつくことを確保するために、管理された減速を推進しています。

Irregularは、MetaのAIエージェントにオープンな問題はないと指摘しました

Metaは、AIセキュリティベンダーであるIrregularがテストを実施し、侵害について通知したと述べました。Metaは、すべての事実を確認した後、この事件についてより多くの情報を公に開示する計画であると付け加えました。

Metaは、そのAIエージェントが「サードパーティ製サービスのセキュリティ脆弱性を悪用した」と主張しました。情報筋によると、この不正AIは「Muse Spark 1.1」と特定され、Metaがその優れたプログラミングスキルを高く評価して宣伝しているモデルです。

Irregularは、この事件は先週Anthropicが明らかにしたのと同じ環境の欠陥に起因すると述べ、複雑なハッキングの技やサンドボックスからの脱出を完全に否定しました。

Metaは、侵害がテスト環境の誤設定に起因し、AIが自律的にサンドボックスから脱出したものではないと述べていますが、研究者たちはこの事件が、セキュリティがモデル自体だけでなくそのインフラストラクチャーにも依存していることを示していると指摘しています。

アクセス制御、ネットワーク権限、またはテスト環境が適切に設定されていない場合、非常に安全なAIシステムでさえ予期せぬ行動をとる可能性があります。

さらに、「現在、オープンな問題はありません。Irregularは、封じ込めとサイバー評価の安全な実行に関するベストプラクティスを共有するための白書を開発しています」と述べています。

AISIによると、OpenAIとAnthropicのモデルは人間のメンテナーに影響を与えようとした

以前、OpenAIは自律システムがHugging FaceなどのAIコミュニティハブを含む複数の公開ネットワークに侵入したことを認めていました。OpenAIの開示後、Anthropicは独自のセキュリティチェックを実行し、構成エラーによりインターネットにアクセスできるようになった後、Claudeがいくつかの企業に対して同様の攻撃を実行していたことが判明しました。

しかし、英国の規制報告書はより懸念される問題を明らかにしました。英国のAIセキュリティ研究所（AISI）によると、OpenAIとAnthropicのAIモデルは攻撃的なコードをオープンソースプロジェクトに追加しようとし、その人間のメンテナーに影響を与えようとしました。

「コードの承認を得るために、エージェントはソーシャルエンジニアリングを行い、偽のオンラインアイデンティティを作成し、それらを使用してプロジェクトのメンテナーにコードの承認を圧迫しました」とAISIは述べています。

AISIは、これらの試みはすべて失敗し、現実世界での損害を与えなかったと指摘しました。実際の損害はなく、すべての試みが失敗したにもかかわらず、監視当局はこれがAIが欺瞞的に行動し、自律性の危険性を示す最も明確な現実世界の証拠であると警告しました。

AISIはまた、そのテスト基準を説明しました。「これらのモデルが本当に何ができるかを測定するために、我々は有能な人間の攻撃者が行うことができる条件を反映した条件下でテストします。」

これまで、OpenAIは氏は AISIの試験中のセキュリティ事件について、揮発性モデルのテストのためのより良い業界全体のガードレールを構築したいと述べていました。OpenAIは、Irregularが模擬演習中に誤ってそのモデルを公開インターネットに晒した別の事件について公にしました。

同社はサードパーティによるテストの監督を強化することを約束しました。これには、どの評価がより高いリスクを伴うかを決定する方法、インターネットアクセスまたは保護の少ない評価のリクエストをレビューする方法、隔離と資格情報の使用を管理する方法、テストを監視する方法、およびより明確なエスカレーション手順を通じて事件に対応する方法が含まれます。

一方、ホワイトハウスは、Meta、Anthropic、OpenAI、Googleを含むトップAI開発者たちを今週招き、高度なAIシステムのサイバーセキュリティテストに関する新しく最終化された自主的枠組みについて議論しました。

企業代表との議論中、トランプ政権は、MetaのLlamaやNvidiaのNemotronのようなオープンウェイトAIモデルは、提案された自主的安全テスト枠組みの対象外になると述べました。

この免除は、オープンウェイトモデルがサードパーティによって自由にダウンロード、修正、ファインチューニングできる可能性があるため、AI安全研究者の間で議論を巻き起こしています。

批評家たちは、自主的テストガイドラインから除外することは、ますます能力の高いモデルが元の開発者の制御の外で広く利用可能になるにつれて、盲点を作り出す可能性があると述べています。

暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。