偽のChrome AI拡張機能によって1万人分のOpenAI APIキーが盗まれたことが判明

人工知能アシスタントを装った Chrome ブラウザ拡張機能が、10,000 人以上のユーザーから OpenAI のdent情報を盗み出し、サードパーティのサーバーに送信している。. 

サイバーセキュリティプラットフォームのObsidianは、OpenAIのチャットボットサービスに人々をつなぐツールを装うH-Chat Assistantと呼ばれるブラウザ拡張機能をdentした。.

研究者らは、このマルウェアが OpenAIのAPIキーを 、ユーザーデータを外部サーバーに送信することで、アカウントのセキュリティとデータプライバシーを危険にさらしていたと主張している。このマルウェアは、発見の数ヶ月前に、ハッカーが管理するTelegramチャンネルに少なくとも459個の固有のAPIキーを流出させていた。

Chrome拡張機能はOpenAIユーザーにプライバシーとセキュリティ上のリスクをもたらす

Obsidian Securityによると、このソフトウェアは当初 リリースされ 、その後「H-Chat Assistant」にブランド名が変更されました。この拡張機能をインストールしたユーザーは、チャットボット機能を有効にするために、独自のOpenAI APIキーを入力するよう求められました。 

キーを受け取った後、拡張機能はほぼ宣伝どおりに機能し、ブラウザ内でAIモデルと直接対話できるようになりました。この一見正当に見える機能により、ユーザーは 信頼 が、セキュリティ分析チームによると、バックグラウンドで隠れたデータフローが発生していたとのことです。

「これらの拡張機能はAPIキーを積極的に盗み出しているわけではありませんが、ユーザープロンプトやその他のデータはひそかにサードパーティ/外部サーバーに送信されています。拡張機能の中にはChatGPTを装い、会話やデータがOpenAIにのみ送信されているという誤った信頼感を生み出しているものもあります」とアナリストらは説明しています。.

しかし、Obsidian社によると、実際の盗難はユーザーがチャットを削除したとき、またはアプリケーションからログアウトしたときに発生するという。その瞬間、拡張機能のコードに埋め込まれたハードコードされたTelegramボットのdent情報を使用して、キーが送信される。.

H-Chat Assistant は Google のサービスに対する読み取りと書き込みの権限も要求していたため、捜査員は被害者の Google Drive アカウントに保存されているデータが漏洩する可能性があると考えている。. 

Obsidianのセキュリティ研究者らは、この悪意のある活動は2024年7月に始まり、ユーザーがツールをインストールして使用し続ける間、数ヶ月間気づかれずに進行していたと考えている。2025年1月13日、彼らはこの活動を発見し、 OpenAI 情報開示チャネルを通じて 

OpenAIは同日、アプリの不正利用を防ぐため、侵害されたAPIキーを失効させた。Obsidianの報告によると、APIキーの開示と失効後も、拡張機能はChromeウェブストアで引き続き入手可能だった。. 

H-Chat Assistantは悪意のあるツールセットの一部です 

AI関連の生産性向上を謳うChrome拡張機能のうち、少なくとも16個が同一の開発者フィンガープリントを共有しているようです。これらのツールは、dent情報やセッションデータを収集する単一の脅威アクターによって作成されたと考えられています。. 

研究者らが引用した調査結果によると、16個の拡張機能のダウンロード数は比較的少なく、合計で約900件のインストール数だった。しかし、アナリストらは、この戦術の拡張性とブラウザにおけるAIアドオンの人気を考えると、懸念すべき点だと指摘している。.

「GPTオプティマイザーは人気があり、Chromeウェブストアには評価の高い正規のものが多数存在するため、人々は警告サインを見落としやすい。そのうちの1つは、Chrome拡張機能の推奨事項に従っていることを示すロゴが特徴となっている」と、LayerX Securityのコンサルタントであるナタリー・ザルガロフ氏は レポート 月曜日に公開された

ザルガロフ氏は、これらの拡張機能は認証されたウェブアプリケーションとの緊密な統合を必要とし、「ブラウザ攻撃対象領域を大幅に拡大」させる必要があると付け加えた。悪意のある拡張機能は、ChatGPT関連サービスで使用されるウェブベースの認証プロセスの脆弱性を悪用する。.

「このキャンペーンでdentされた16個の拡張機能のうち、15個はChromeウェブストアを通じて配布され、1つの拡張機能はMicrosoft Edgeアドオンマーケットプレイスを通じて公開されました」と研究者は説明した。.

研究者が発見、拡張機能がメタデータとクライアントdentを送信

LayerXのコンサルタントは分析の結果、拡張機能がAPIキー以外の情報も送信していることを発見しました。拡張機能は、バージョンの詳細、言語設定、クライアントdentなどの拡張機能メタデータを送信していました。.

また、拡張機能のサービスに紐付けられた使用状況テレメトリ、イベントデータ、バックエンド発行のアクセストークンも送信されました。これらのデータポイントを組み合わせることで、攻撃者はトークンの権限を拡張し、セッション内のユーザーを trac、行動プロファイルを作成することができます。. 

ザルガロフ氏は、ダウンロード数は83万件を超えたゴーストポスターや3万1000件を超えたローリーポリVPNと比較すると少ないと指摘した。しかし、AIを活用したツールは急速に人気が高まる可能性があると警告した。. 

「悪意のある拡張機能が普及するには、たった一度の繰り返しで十分です。GPTオプティマイザーは、VPN拡張機能と同等かそれ以上の人気を博すと確信しています」と彼女は記している。.