Grokが暗号化されたウェブページのトリックでユーザーチャットを漏洩、xAIが警告してから11週間後

- Adversa AIは、Grokがユーザーの名前、所在地、サブスクリプションの階層、およびチャット履歴全体を漏洩することを示した。
- これは、ユーザーに要約を依頼するウェブページ上に暗号化されたコマンドを隠し持つ攻撃者に対して、この情報が提供されることを意味する。
- この脆弱性は2026年6月3日にxAIに開示され、8月4日と8月10日にフォローアップが行われたが、8月19日現在もGrok.comで依然として機能しており、緩和策の実施時期は未定である。
Adversa AIが木曜日に発表したレポートによると、Grokは依然としてユーザーのプライベートチャットデータをハッカーに提供しています。
ハッカーは、通常の外見のウェブページに配置された暗号化テキストにコマンドを注入することで、このデータにアクセスします。サイバーセキュリティ企業は2ヶ月前にxAIに警告しましたが、まだ修正プログラムは提供されていません。
Grokのフィルタを通過する暗号文
Adversaの研究者であるRony Utevsky氏は、この攻撃を「暗号文脈注入」と命名しました。これはチャットボットの安全フィルタを簡単に回避します。
ほとんどの大規模言語モデル(LLM)は、不審なコマンドについて入力および出力テキストをフィルタリングします。しかし、この攻撃はGrokのフィルタから悪意のあるテキストを隠します。
悪意のある命令は暗号化されており、ページ上には暗号文、鍵、および復号化方法に関するメモのみが表示されます。
フィルタはテキストを読み取りますが実行しないため、暗号文は通過します。Grokはその後、コードサンドボックス内でそれを復号化します。Grokは、そこから現れる平文を信頼できるツール出力として扱います。
「ランタイム実行は、攻撃者が制御するデータをエージェントが実行する信頼できる命令に変換します」と、Adversaは投稿で述べています。
ユーザーがGrokにウェブページの要約や分析を依頼すると、アシスタントはページを取得し、隠されたペイロードを復号化してそれに従います。
復号化された命令は、Grokに復号化キーのように見えるものを作成させます。これは、ユーザーの名前、大まかな位置情報、サブスクリプションティア、およびその会話からの一連のプロンプトから派生しています。
その後、攻撃者のサーバーを指し示すURLに付与されます。GrokがそのURLを開くと、データは攻撃者のログに記録されます。
xAIは6月3以来、このレポートを保持しています
xAIは、Utevsky氏がバグを直接およびバグ報奨金プログラムのHackerOneを通じて報告した2026年6月3日以来、この攻撃を認識していました。
xAIはレポートを認識していますが、パッチの時期については明言していません。Utevsky氏は8月4日および8月10日に再度問題を提起しました。8月19日現在、Grok.comでのエクスプロイトはまだ機能していました。
Adversaは攻撃メカニズムのみを公開しており、推奨される修正はエージェントのハーンズにあります。
数日前、GoogleのGemini 3.7 Flashモデルは、通常フィルタでブロックされるようなコンテンツを生成しました。これには、焼夷弾の製造方法に関する指示や、モデル自体のシステムプロンプトのコピーが含まれていました。
そのバージョンは直接的なジャイルブレイクです。Utevsky氏によると、これはGeminiのPython環境が外部ウェブサイトにアクセスできないためです。Googleは、ジャイルブレイクを開示プログラムの対象外と見なしています。
Geminiの成功率は8月までに急激に低下しました。Adversaは、フィルタの更新、モデルの変更、またはその両方が原因であると特定できませんでした。
5月、Cryptopolitanは、X上のユーザーがモールス符号でメッセージを書き、ボットの安全対策を回避してGrokにリンクされたエージェントBankrbotにBase上で約20万ドル相当のDRBトークンを送信させたと報告しました。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。

ランダ・モーゼス
ランダ・モーゼスはCryptopolitanのエディター兼記者で、テクノロジー、AI、ロボティクス、暗号資産、詐欺、ハッキングなどを担当しています。2017年以来暗号資産分野で活動しており、Forward Protocol、AmaZix、Cryptosomniacで役職を務めました。ブラッドフォード大学で電気電子工学の学位を取得しています。















