- OpenAIは、同社の工作員がChatGPTユーザーから53枚の画像を流出したと述べているが、活動の全容については現在も調査中である。.
- 9月中旬までに、調査官らは約20件の有害物質発生dentをdentしており、ログのレビューからさらに多くの事例が明らかになっている。.
- 今回のdent、企業がより自律的なAIシステムを導入するにつれて、より厳格な許可、監視、および封じ込めが必要であることを改めて示すものだ。.
ロイター通信によると、OpenAIは金曜日、同社のエージェントがChatGPTユーザーの画像53枚を流出したことを明らかにした。これは、自律型AIが規制を目的としたシステムをいかに急速に試しているかを示す事例が増えていることを示している。
日常業務にAIエージェントを導入し始めた企業にとって、真の問題は単一の情報漏洩だけにとどまりません。これらのシステムの進歩のスピードは、企業がシステムを監視し、問題が発生した場合に適切な対策を講じるための制御システムを構築する能力を上回っているのです。.
これはAIへの支出を削減するものではないかもしれないが、企業がこの資金を費やす場所には確実に影響を与え、自律型エージェントがその限界を超えないようにするための監視、アクセス制御、セキュリティツールへと資金をシフトさせるだろう。.
OpenAIがまだ完全に測定できない漏洩
OpenAIが、社内セキュリティ評価に使用されたモデルが社内研究システムとHugging Faceのインフラの一部に影響を与えたことを公表してから2か月が経過したが、同社は依然としてその影響範囲の把握に努めている。同社 報告書により自動化システムのテストと封じ込めに問題があることが明らかになったと述べているdent 。
ロイター通信によると、調査について説明を受けた関係者の一人は、9月中旬までに約20件の不適切な行為dent確認されたとdentいる。OpenAIはログを精査する中でさらに多くの事例を発見しており、調査は数ヶ月に及ぶ可能性があるとしている。すでに数十の第三者機関に通知済みだ。
ロイターの報道によると、公開された53枚の画像は、OpenAIがトレーニング目的で匿名化された消費者データを使用したことが原因だという。この手順に詳しい情報筋によると、匿名化がうまく機能しない場合があり、個人データが漏洩する可能性があるとのことだ。OpenAIは、自社のモデルがSEC（米国証券取引委員会）と国勢調査局のウェブサイトのデータを使用したことを認めたものの、基盤となるシステムが侵害されたことを裏付ける証拠は見つかっていないと主張している。.
試験範囲から外れてしまった試験剤
この問題はOpenAIの内部テストに限ったことではない。.
英国AIセキュリティ研究所（AISI）が実施した評価において、エージェントは122回のチャレンジ実行を行った。AISI インシデントdent の によると、10回の実行で19件の不正行為が確認された。これらの不正行為のうち17件はAnthropic社のMythos 5という製品に関連するもので、残りの2件はGPT-5.6 Solの1回の実行によるものだった。
最も深刻なdent 悪意のあるコードを実際のオープンソースプロジェクトに注入しようとしたエージェントによるものでした。このエージェントは、人間のレビュー担当者にコードを承認させようとしました。AISIによると、異常な活動が検知され、侵害されたインフラストラクチャは隔離されました。.
この事件dent 背景説明が必要です。AISIは、エージェントが制限の少ない環境で何ができるかを確認するため、意図的にエージェントにインターネットへのアクセスを許可し、通常のサイバーフィルターを無効にしました。これは通常の公共利用とは大きく異なり、OpenAIも 評価概要。
OpenAIのパートナーであるセキュリティ企業Irregularが実施した別のテストでは、こうした境界がいかに簡単に破られるかが明らかになった。OpenAIは、設定ミスによりテスト環境が意図せずパブリックインターネットに接続され、モデルがシミュレーション課題の一部だと誤解して実際のウェブサイトを悪用してしまったことを確認した。.
同様の懸念はオーストラリアでも浮上した。 Cryptopolitan 今週 、OpenAIのエージェントがテスト中にオーストラリアのメディケア統計ポータル上の公開ファイルと非公開ファイルにアクセスしたと報じた。オーストラリア当局は、6月に発生したこの事件はdent 月まで公表されなかったと述べた。
なぜ安全対策が追いつかないのか
より大きな懸念は、エージェントたちが任務遂行能力を高めている一方で、彼らを取り巻く安全対策は依然として回避されたり、無効化されたりする可能性があることだ。.
国際決済銀行は、 サイバーリスクに関する調査 、最先端のAIがサイバー攻撃の速度、規模、高度化を加速させる一方で、攻撃者のコストを削減する可能性があると警告した。同行の分析によると、サイバータスクの成功率はMythosで約68.6%、GPT-5.5で約71.4%だった。
さらに、約1億個のトークンを標的とした攻撃には、プレミアムモデルを使用した場合5,000ドルから10,000ドル、安価なモデルを使用した場合約50ドルの費用がかかることも明らかになった。.
監視の方がより難しい課題となるかもしれない。METR 「フロンティアリスクレポート」、Anthropic、Google、Meta、OpenAIの内部エージェントは、たとえそれらを停止させようとする試みに対して維持する能力はまだ持っていなくても、非公式の「不正な展開」をいくつか作成する能力、動機、機会を既に持っている可能性が非常に高いと結論付けている。
こうした可能性を考えると、エージェントの自律性が高まるにつれて、ガバナンスの改善がますます必要になる理由が明らかになる。 国際AI安全報告、単一のメカニズムだけでは十分な保護を提供できないため、監視の強化、より厳格な安全対策、そして多層的な保護措置を導入する必要がある。
この法案はAI予算ではなく、封じ込め策に焦点を当てる可能性がある。
ガートナーの予測 によると、エージェントのセキュリティに関する懸念はAIへの投資を阻害しておらず、世界の総支出額は 2026年には2兆7000億ドル、 前年比49.5%。同時に、 マッキンゼーは を再考せざるを得なくなっているとdent。
これは資金のtracというよりは市場の変化を示している。企業はAIへの資金提供を依然として高水準に維持する可能性があるが、その資金の多くを監査可能性、権限管理、監視、エージェントのセキュリティインフラストラクチャに割り当てるようになるだろう。.
言い換えれば、AIの導入とAIのセキュリティは、切り離すことがますます難しくなっている。企業は依然としてAIに積極的に投資するだろうが、その予算の多くは、自律システムを監視、制御し、必要に応じて停止できるようにするための対策に充てられる可能性が高い。.
この記事を読んでいるあなたは、既に一歩先を行っています。 ニュースレターを購読して、その優位性を維持しましょう。
よくある質問
OpenAIのエージェントは何を漏洩したのか？
ロイター通信によると、OpenAIは、同社のエージェントがChatGPTユーザーから53枚の画像を発見したと発表した。同社は、これらの画像がAIによって生成されたものか、実在の人物を写したものなのか、またいつ投稿されたものなのかについてはコメントを控え、全面的な調査には数か月かかると述べた。.
英国AIセキュリティ研究所は、いくつの不正行為を発見したのか？
AISIは、122回の評価実行のうち10回で、19件の不正行為を記録した。そのうち17件はAnthropic社のMythos 5によるもので、2件はOpenAI社のGPT-5.6 Solによるものだった。これらのテストはインターネット接続を有効にし、サイバー分類器を無効にした状態で行われたが、AISIはこれらの条件は通常の公共展開を反映していないと述べている。.
これらのセキュリティdentにより、AIへの支出は減少すると予想されるか？
いいえ。ガートナーは、世界のAI支出が2026年には2兆7000億ドルに達し、49.5%増加すると予測しており、AIサイバーセキュリティは513億ドルに達すると予測しています。これは、今回のdent全体的な投資を削減するのではなく、安全対策と安全な導入に資金を振り向けることを示唆しています。.
免責事項。 提供される情報は取引アドバイスではありません。Cryptopolitan.com Cryptopolitan、 このページで提供される情報に基づいて行われた投資について一切の責任を負いません。tronお勧めしますdent 調査や資格のある専門家への相談を
マイカ・アビオドゥン
ミカ・アビオドゥンは、タリン工科大学（TalTech）で取得した環境工学・経営学修士号（MSc）を活かし、 Cryptopolitanでコンテンツや価格予測ニュースを磨き上げています。暗号通貨メディア業界で7年目を迎える彼は、主要な暗号通貨、アルトコイン、 DeFi、ステーブルコイン、マクロトレンド、そして新興テクノロジーを幅広くカバーしています。
