偽の Chrome AI 拡張機能により、1 万人のユーザーの OpenAI API キーが窃取される

人工知能アシスタントを装ったChromeブラウザ拡張機能は、1万人以上のユーザーからOpenAIの資格情報を抜き取り、サードパーティのサーバーに送信している。 

サイバーセキュリティプラットフォームのObsidianは、H-Chat Assistantというブラウザ拡張機能を特定した。この拡張機能は、人々をOpenAIのチャットボットサービスに接続するツールとして偽装している reportedly。

研究者たちは、これが OpenAI APIキー を秘密裏に収集し、ユーザーデータを外部サーバーに送信して、アカウントのセキュリティとデータのプライバシーを危険にさらしていると主張している。発見の数ヶ月前には、少なくとも459の一意のAPIキーがハッカーが管理するTelegramチャンネルに流出していた。

Chrome拡張機能はOpenAIユーザーにプライバシーとセキュリティリスクをもたらす

Obsidian Securityによると、このソフトウェアは当初 は ChatGPT Extensionという名前であったが、後にH-Chat Assistantに改名された。拡張機能をインストールしたユーザーには、チャットボット機能を有効化するために独自のOpenAI APIキーを提供するよう求められた。 

キーを受け取ると、拡張機能は宣伝どおり主に機能し、ブラウザ内で直接AIモデルとの会話を可能にした。この見かけ上の正当性が、ユーザーに 信頼 させることにつながったが、セキュリティ分析チームによると、バックグラウンドには隠れたデータフローがあった。

「これらの拡張機能はAPIキーを積極的に流出させていないが、ユーザーのプロンプトやその他のデータはサードパーティ/外部サーバーに静かに送信されている。複数の拡張機能がChatGPTを偽装しており、会話やデータがOpenAIにのみ送信されているという誤った信頼感を生み出している」とアナリストは説明した。

しかし、Obsidianによると、実際の盗難はユーザーがチャットを削除するか、アプリケーションからログアウトを選択したときに発生する。その瞬間、キーは拡張機能のコードに埋め込まれたハードコードされたTelegramボットの資格情報を使用して送信される。

H-Chat Assistantはまた、Googleのサービスの読み取りおよび書き込み権限を要求しており、調査官はこれが被害者のGoogle Driveアカウントに保存されたデータを暴露する可能性があると信じている。 

Obsidianのセキュリティ研究者たちは、悪意のある活動は2024年7月に始まり、ユーザーが引き続きツールをインストールして使用している間、数ヶ月にわたって発見されなかったと信じている。2025年1月13日、彼らはこの活動を発見し、 は、ChatGPTの無料プランの視聴者を週10億人以上のアクティブユーザーと見積もっており、広告モデルが無料版の運営を支えています。 開示チャネルを通じて報告した。 

その日、OpenAIはアプリの不正使用を減らすために侵害されたAPIキーを取り消した。開示と取り消し後も、Obsidianのレポートによると、拡張機能はChrome Webストアでまだ利用可能だった。 

H-Chat Assistantは悪意のあるツールセットの一部である 

少なくとも16のChrome拡張機能は、AI関連の生産性向上を約束しているが、同じ開発者の指紋を共有しているようだ。これらのツールは、資格情報とセッションデータを収集している単一の脅威アクターによって構築されたと考えられている。 

研究者が引用した調査結果によると、16の拡張機能のダウンロード数は比較的少なく、合計で約900インストールにとどまりました。それでも、アナリストたちは、そのスケーラビリティとブラウザ上のAIアドオンの人気ゆえに、この戦術は懸念すべきだと指摘しています。

「GPT Optimizerは人気があり、Chrome ウェブストアには十分に多くの高評価で信頼性の高いものが存在するため、人々は警告サインを見逃しやすい可能性があります。そのバリアントの一つには、Chrome拡張機能の推奨プラクティスに従っていることを示す特徴的なロゴがあります」と、LayerX SecurityのコンサルタントであるNatalie Zargarov氏は書きました。 レポート 月曜日に公開されました。

Zargarov氏は、これらの拡張機能が「大幅に拡大されたブラウザ攻撃面」を起動するために、認証済みWebアプリケーションと深く統合される必要があると付け加えました。悪意のある拡張機能は、ChatGPT関連サービスで使用されるWebベースの認証プロセスの脆弱性を悪用しています。

「このキャンペーンで特定された16の拡張機能のうち、15はChromeウェブストアを通じて配布され、1つはMicrosoft Edge Add-onsマーケットプレイスを通じて公開されました」と研究者は説明しました。

拡張機能がメタデータとクライアント識別子を送信していることを研究者が発見

LayerXのコンサルタントによる分析では、拡張機能がAPIキーだけでなく、より多くの情報を送信していることがわかりました。拡張機能は、バージョン詳細、言語設定、クライアント識別子を含む拡張機能メタデータを送信しました。

また、拡張機能のサービスに関連する使用テレメトリ、イベントデータ、バックエンド発行のアクセストークンも送信しました。これらのデータポイントの組み合わせにより、攻撃者はトークンの特権を拡大し、セッション中のユーザーを追跡し、行動プロファイルを作成することができます。 

Zargarov氏は、ダウンロード数がGhostPoster（83万インストール以上）やRoly Poly VPN（3万1,000インストール以上）と比較して小さいことに注意を促しましたが、AIに焦点を当てたツールはすぐに人気を集める可能性がある可能性があると警告しました。 

「悪意のある拡張機能が人気を集めるには、1回のイテレーションで十分です。GPTオプティマイザーは soon、VPN拡張機能と同程度（それ以上ではない）の人気になると信じています」と彼女は書きました。