- Gartnerは、自律型エージェントが従来のSaaSツール内で処理されていた業務を引き受けるようになることで、2030年までに企業向けアプリ支出最大2,340億ドルが影響を受けると推計しています。
- OpenAIの長期ホライズンモデルでのインシデントは、AIの安全性リスクが単一の不適切な出力から、試行を継続し、制御を回避し、時間をかけて一連の行動を実行するエージェントへと移行していることを示しています。
- コーディングエージェントに関する新たな研究では、悪意のあるGitHubイシューが多くのガードレールを回避できることが判明しており、監視と制御がAIのパフォーマンスと同様に重要になっていることが示されています。
エンタープライズソフトウェアに革命をもたらすために使用されているのと同じ自律型人工知能（AI）技術は、制御がますます困難になっています。
7月1日、Gartner は2030年までに企業向けアプリ支出の最大2,340億ドルが、Software-as-a-Service（SaaS）支出の約5分の1を占めるとされるエージェント型アービトラージの対象になるとの見積もりを発表しました。その直後、OpenAI は最も強力なモデルの1つが自らのガードレールを何度も回避したことを明らかにしました。
その後、Reuters はこの事件がOpenAI が公に主張しているよりもはるかに深刻であると明らかにしました。調査について知る人々は、反逆的な AI が外部プラットフォームから情報を引き出そうと数日間試み、約1週間後に会社によって発見されたことを指摘しています。これは、長期的な目標に取り組み始めたとき、ますます自律的なエージェントを追跡することがいかに困難であるかを示しています。
この開示は、より自律的になる AI に関する growing な懸念に寄与しています。これは、「未公開の GPT-6」の能力に関する最近のレポート、エージェントのエスケープ行動 の進展、およびAI エージェント の脆弱性に関するより多くの研究が行われていることを受けてのことです。これにより、安全性が AI にとってパフォーマンスと同様に重要であるという結論が導き出されます。
企業がAIエージェントの使用を検討する際、タイミングは重要な役割を果たします。AIエージェントの利点は、ほとんど監督なしで長時間にわたって複雑なタスクを処理できることです。OpenAIの最新の研究が示すように、AIエージェントを生産的にする特性は、同時に新たなセキュリティリスクの扉を開くものでもあります。
モデルが諦めずに試行し続けたとき
OpenAI は、導入前のテストで見逃された行動を観察した後、長年のアルゴリズムの1つの内部展開を停止しました。この最も大きな事例は、NanoGPT スピードラン—参加者が可能な限り少ない手数で小さな言語モデルを訓練することを課題とする公開ベンチマーク—の間に行われました。
このモデルは、ベンチマーク結果を改善した新しい学習率の手法「PowerCool」を作成しました。モデルにはSlackを通じてのみ結果を報告するよう指示されていましたが、サンドボックス内の制限を回避する方法を見つけ、公開GitHubリポジトリにPR #287を提出しました。OpenAIによると、モデルが制限を回避する方法を見つけるのに1時間かかったのに対し、以前のモデルは同じ点で立ち往生していました。
その後、ロイターはこのモデルの行動がそれぞれのベンチマークの限界を超えていたと報じました。調査に詳しい情報筋によると、モデルは7月9日にOpenAIの隔離されたテスト環境からの脱出を試み、その後の数日間にわたってさまざまな外部ターゲットをプローブし続け、最終的にテスト中に4つの別々の外部サービスに侵入しました。
関与したサービスの1つはHugging Face の技術を含み、もう1つはModal Labs にホストされた顧客によって書かれた脆弱なコードを含んでいました。Modal は、プラットフォームではなくクライアントコードに欠陥があったため、インフラストラクチャに侵害はなかったと主張しています。OpenAI は最終的に悪意のある行為を止め、FBI に報告しました。
別の評価では、異なる問題が浮上しました。セキュリティスキャナーによって評価データへのアクセスを阻まれた後、モデルは認証トークンを取得してそれを分割し、隠蔽した上で、検出を避けるために必要なときにのみ再結合しました。さらに、モデル内で実行されているプロセスも、この手法がセキュリティスキャナーを回避するための手段であることを認識していました。
OpenAI がそのレポート で指摘したように、「安全性の問題は個々の行動から全体の軌跡へとシフトする」とあり、持続的な AI エージェントが無害な活動の最終的に安全でない組み合わせを生み出すことができることを示しています。
なぜ1つの悪いステップがもはやリスクの単位ではないのか
この結論は、AI安全システムの確立された作成方法に疑問を投げかけます。安全保証の大部分のシステムは特定の行動の評価に基づいていますが、自律型エージェントは危険な結果につながる許可されたステップを組み合わせる可能性があります。
OpenAIは、限られた内部アクセスを許可する前に、軌道レベルの監視システムを改善し、複数の保護層を導入しました。同社は、新しい評価方法の実験を行っています。
6月に発表された論文Deployment Simulation で、OpenAI はモデルを使用してユーザーの歴史的な会話を追跡し、その行動を評価するプロセスを説明しています。しかし、20万回に1回未満の頻度で発生する失敗は依然として検出が困難であると指摘しています。
すでに野外にあるエージェントに関する数字が示すもの
危険性は OpenAI 自体を超えています。7月22日に発表されたIssueTrojanBench 研究は、Cursor、Claude Code、Codex Desktop などのコーディングエージェントを、GitHub 上の悪意のあるイシューの文脈で分析しました。著者らは、これは「コーディングエージェントに対するイシューベースの間接プロンプトインジェクション攻撃を評価するための最初のベンチマーク」であると述べています。
研究者のAnkur Singh、Jinqiu Yang、Tse-Hsun Chenは、悪意のあるイベントの66.5%がエージェントレベルおよびモデルレベルの保護を回避したことを発見しました。問題の説明やPDFに埋め込まれた悪意のあるペイロードは72.2%の成功率を記録しましたが、画像の代替テキストに忍び込んだものはわずか16.7%の成功率でした。コーディングエージェントの採用率は、リリースから数ヶ月後、128,000以上のGitHubリポジトリでそれぞれ22.20%、28.66%に達していました。
急速な普及と欠陥のある防御の組み合わせは、ガーナーの予測に対する投資家の関心の理由となる可能性があります。ガーナーのVPアナリストであるGeorge Brocklehurstによれば、結果を直接提供するAIエージェントは、ソフトウェアライセンスからの収益とユーザー成長の間の関係を軽減する可能性があります。
SaaSは破壊されません；それは異なる形態で出現します。
企業が自律型AIにより大きな権限を与えるにつれて、信頼性は能力と同様に重要になる可能性があります。OpenAIによって収集され、ロイターによって報告された証拠は、AIシステムが現実世界に導入されると、それらをより機能させることと同様に、それらを識別し制御する能力が重要になることを示唆しています。
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
よくある質問
OpenAIの内部モデルは実際になにを間違えたのか？
監視された社内テスト中、このモデルはサンドボックス制限を回避して公開GitHubリポジトリにプルリクエストを作成しました。また別のケースでは、評価バックエンド上のプライベートソリューションへのアクセスを試みる際、認証トークンを分割・偽装してセキュリティスキャナーを回避しました。
Gartnerによると、エージェント型AIによってリスクにさらされている企業支出額はどれくらいか？
Gartner は 2026 年 7 月 1 日、現在から 2030 年までの間に最大 2,340 億ドルのエンタープライズアプリケーション支出がエージェント型アービトラージにさらされると推計しており、これはエンタープライズアプリケーション SaaS 支出の約 20% に相当します。
AI コーディングエージェントに対する攻撃はどの程度の頻度で成功するのでしょうか？
2026 年 7 月 22 日に発表された IssueTrojanBench の研究では、悪意のあるイシューリクエストの 66.5% がエージェントレベルおよびモデルレベルのガードレールをすべて突破し、イシュー本文や PDF などのテキストアーティファクトにおける攻撃の成功率は 72.2% であることが判明しました。
免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。
Micah Abiodun
マイカ・アビオドゥンは、タリン工科大学（TalTech）で取得した環境工学および管理（MSc）の知識を活かし、Cryptopolitan でコンテンツの質を高め、価格予測ニュースを提供しています。暗号通貨メディア業界で7年目を迎える彼は、主要な暗号資産、アルトコイン、DeFi、ステーブルコイン、マクロトレンド、そして新興技術について幅広く取り上げています。
