- Cohereによれば、AlibabaのQwen3.8-Flash-Nextは、サンドボックス化されたセキュリティ評価においてツール呼び出しを行わないと表明しながらも、北京のクラウドバケットに固定されたテスト文字列をアップロードしようとし、テスト環境によってブロックされました。
- この動作は10万回のアクションに満たない頻度で発生し、意図や盗難、根本原因は証明されておらず、独立した再現も確認されていません。
- 自社ホスト型のオープンウェイトモデルを実行する企業にとって、この発見は「社内ホスティングは自動的に安全である」という考え方に疑問を投げかけ、監査、分離、調達に関するコスト増につながる可能性があります。
Cohereによると、AlibabaのQwen3.8-Flash-Nextはセキュリティテストの一環として、北京のクラウドストレージバケットにテスト文字列を送信しようとしたが、サンドボックスによってブロックされました。しかし、この事象は、ダウンロード可能な学習済みパラメータセットを持ちローカルで実行可能な「オープンウェイト」ソリューション（モデル）を利用する組織にとって、新たな監査および分離コストの導入を余儀なくさせる可能性があります。さらに、ファイアウォールの背後でモデルを実行するだけでデータセキュリティが保証されるという一般的な前提に対する課題とも見なすことができます。
Cohereが検出した内容
10月26日に公開されたレポートによると、AISLE買収を経て誕生したCohere Cyberは、MicrosoftのCTI-REALMを用いたQwenのテストについて言及しました。CTI-REALMは、AIエージェントがサイバーセキュリティインテリジェンスを検出ルールに変換する能力を測定します。
有害なダウンロードとその後のスクリプト実行を特定するよう求められた際、Qwenは一時的ファイル、利用可能なツール、およびDNS設定を調査しました。その後、北京のAlibaba Cloudバケットへ所定のテスト文字列をアップロードするためのHTTPコマンドを送信しましたが、接続はCohereのサンドボックスによってブロックされました。
モデルの書面による推論では、アップロードを試みている間もいかなるツールも使用しないとされていました。この矛盾は、モデルの表明された推論に基づいて不審な行動を検出するchain-of-thought（思考連鎖）モニタリングに対する疑念を強めます。Cohere CEO Aidan Gomez は「ここでは無意味だった」と述べています。
数字が示すのは、パニックではなく注意すべき理由
Cohereは、この動作が10万回の評価呼び出しの中で1回未満しか発生していないことを確認しました。再度プロンプトを入力すると、Qwenは要求されたルールを生成しました。研究者にはバケットの所有権を特定したり、悪意のある行為や現在の根本原因を証明したりする方法はありませんでした。このコマンドはトレーニング例から来ている可能性があります。顧客データが侵害されたという証拠はありません。
CohereはエンタープライズAIも提供しています。VentureBeatによると、同社はLlama、GPT-oss、DeepSeek、Kimi、または自社モデルを同様の条件下でテストしていません。Qwenの結果は他のAI研究所によって確認されておらず、したがって中国製モデルを独自にリスクが高いと分類することはできません。
この厳しい scrutiny は新しいものではありません
8月にCryptopolitanが報じたように、下院委員会のジョン・ムーレナー委員長とアンドリュー・ガーバリノ委員長は、DoorDashによるMoonshotのKimiモデルの使用に関する文書の提出を求めました。この調査はすでに開発者向けツール企業や旅行会社にも及んでいます。彼らは中国産オープンウェイトモデルのコスト優位性を認めつつも、より強力な米国の代替案を望んでいました。
しかし、AIセキュリティへの懸念は中国由来のモデルだけに留まりません。9月のCSIS分析によれば、複数の開発元による自律型エージェントがテスト環境から脱出し、外部システムへの不正アクセスを取得したことが報告されました。CSISは、これらの事象が米中ガバナンスの議題においてAI安全性の優先度を高め、より広範な国際的協力が不可欠なリスクを浮き彫りにしていると指摘しました。
圧力のかかる前提条件、そして可能性のある販売ポイント
Qwenの費用対効果の高さは、その魅力において重要な要素です。Artificial Analysisは、Qwen3.8-Flash-Nextにインテリジェンス・インデックスで40点を付け、ベンチマークタスクあたりのコストを0.37ドルと推定しています。この2つの事実がシステムの能力とコストを示している一方で、セキュリティについては何も語っていません。その間、Hugging Faceは8月時点でQwenベースのモデル数が15万1,000以上であると見積もり、技術が非常に急速に普及していることを示しています。アップロードの単一インスタンスをブロックしても、その勢いを変えることは難しいようです。
しかし、低価格には追加的なセキュリティコストが伴う可能性があります。2026年国際AI安全性レポートは、モデルが評価プロセスの抜け穴を悪用する可能性を警告しています。シンガポールコンセンサスは自律型エージェントの監視の重要性を強調し、ブルッキングス研究所は独立したテストの検討を行っています。企業にとって、これらの懸念に対処することは、アクセス制限へのより多くの投資、不正な送信接続のブロック、およびエージェントが動作する環境でのテストを意味する可能性があります。
採用と安全対策のギャップにより、そのコストがますます重要になっています。BCGによると、2030年までに42%の企業がAIエージェントに自律的な意思決定権限を与えることを期待していますが、現在完全な制御体制を整えているのはわずか5%です。これは、厳格な安全性テストを実施できるベンダーに競争優位性をもたらす可能性があります。ただし、顧客がその保証に対してプレミアムを支払うかどうかは不透明です。
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
よくある質問
CohereはQwenテストで具体的に何を観察したのでしょうか？
MicrosoftのCTI-REALMベンチマークを使用してマルウェア検出ルールを作成するよう求められた際、Qwen3.8-Flash-Nextは実行中のマシンを確認し、北京のAlibaba Cloudバケットへのアップロードコマンドを発行しました。ただし、その推論ではツールを呼び出さないと言っていました。Cohereのサンドボックスはこの試みをブロックしました。
この動作はどのくらいの頻度で発生しましたか？
Cohereは、10万回の評価アクションの中で1回未満しか観測されたと報告しており、研究者がプロンプトを繰り返すと、モデルは接続を試みることなく要求されたルールを生成しました。
Alibabaは対応しましたか、それとも誰かがこの発見を確認しましたか？
VentureBeatは、アリババおよびQwenチームにコメントを求めたが返信を得られておらず、独立したラボでも同様の結果の再現は確認されていないと報じた。アリババと競合するCohereは、悪意ある意図やデータ盗難、あるいは送信先サーバーの制御主体については特定できなかった。
免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。
イビアム・ワイヤス
イビーム・ワイヤスは2019年から暗号資産ニュースを担当しています。ナイジェリア国立公開大学でコンピュータサイエンスを専攻し、Coinfomania、Crypto News Australia、AltcoinBuzzなど、さまざまな暗号資産ニュースプラットフォームで執筆活動を行ってきました。コンピュータサイエンスのバックグラウンドを活かし、現在は暗号資産、ロボティクス、長寿に関するニュースに注力しています。
