- GoogleのGemini AIは、その技術を窃取することを目的とした単一の蒸留攻撃で10万件以上のクエリを受け、世界中から同様の攻撃が行われています。
- 中国の国家支援型ハッキンググループAPT31は、Hexstrikeツールを使用してGeminiを悪用し、特定の米国標的に対するサイバー攻撃を計画しました。
- IBMによると、AIモデルの窃盗は現在組織あたりレコードごとに173ドルのコストをかけており、窃盗されたフロンティアモデルはブラックマーケットで数億ドルの価値がある可能性があります。
GoogleのAIチャットボットGeminiは、大規模な情報窃盗の標的となっている。攻撃者はシステムに質問を浴びせ、その動作方法をコピーしようとしている。一つの作戦では、10万件以上のクエリをチャットボットに送信し、それを賢くしている秘密のパターンを引き出そうとした。
同社は木曜日、これらのいわゆる「蒸留攻撃」が悪化していると報告した。悪意のある行為者は、Geminiの応答の背後にあるロジックを解明するために、質問の波を送り続ける。彼らの目的は単純だ：開発に数十億ドルを費やすことなく、独自のAIシステムを構築または改善するためにGoogleの技術を盗むこと。
Googleは、攻撃者の大半が、地道な作業をせずに先を行こうとする民間企業や研究者だと考えている。攻撃は同社の報告書によると世界中から行われた。Googleの脅威インテリジェンスグループを率いるJohn Hultquist氏は、カスタムAIツールを使用する中小企業もまもなく同様の攻撃に直面する可能性が高いと述べた。
テック企業はAIチャットボットの構築に数十億ドルを投じてきた。これらのシステムの内部構造は王冠の宝石のように扱われている。これらの攻撃を検知するための防御が講じられていても、主要なAIシステムは依然として狙いやすい標的である。なぜなら、インターネットにアクセスできる人なら誰でもそれらと対話できるからである。
昨年、OpenAIは中国企業DeepSeekを指差し、同社が蒸留を使用してモデルを改善したと主張した。Cryptopolitanは1月30日、OpenAIが中国企業に蒸留を使用してAIモデルを盗んだと非難した後、イタリアとアイルランドがDeepSeekを禁止したと報じた。この手法により、企業は費用の桁違いに安いコストで高価な技術をコピーできる。
なぜ攻撃者はこれを行うのか？
経済性は過酷である。最先端のAIモデルを構築するには、数億ドル、あるいは数十億ドルのコストがかかる。業界報告によると、DeepSeekは蒸留を使用してR1モデルを約600万ドルで構築したのに対し、ChatGPT-5の開発費は20億ドルを超えた。モデルのロジックを盗むことで、その莫大な投資はほぼゼロに切り捨てられる。
Geminiに対する攻撃の多くは、それが情報を「推論」または処理するのを助けるアルゴリズムを対象としていたとGoogleは述べている。機密データ（100年分の取引戦略や顧客情報など）を使用して独自のAIシステムを訓練する企業は、今や同じ脅威に直面している。
「あなたのLLMが、あなたが取引する方法に関する100年分の秘密の思考で訓練されていると仮定しよう。理論的には、その一部を蒸留できる」とHultquistは説明した。
国家支援のハッカーが狩りに参加
この問題は金に飢えた企業を超えている。2024年3月に米国の制裁を受けた中国政府のハッキンググループAPT31は、昨年暮れにGeminiを使用して、米国の組織に対する実際のサイバー攻撃を計画した。
このグループは、GeminiをHexstrikeというオープンソースのハッキングツールと組み合わせた。このツールは150以上のセキュリティプログラムを実行できる。Googleの報告書によると、彼らはリモートコード実行の欠陥、Webセキュリティの回避方法、SQLインジェクション攻撃を分析し、これらはすべて特定の米国標的を狙っていた。
Cryptopolitanは以前、同様のAIセキュリティの懸念を警告しており、ハッカーがAIの脆弱性を悪用していると報じていた。APT31の事例は、これらの警告が的を射ていたことを示している。
Hultquist氏は2つの大きな懸念を指摘した。最小限の人的支援で侵入全体を運営する敵対者、および攻撃ツールの開発を自動化すること。「これらは、敵対者が大きな優位性を得て、人的干渉を最小限に抑えて侵入サイクルを進める2つの方法だ」と彼は述べた。
ソフトウェアの脆弱性を発見し、修正を適用するまでの間隔である「パッチギャップ」は劇的に拡大する可能性がある。組織は防御を展開するのに数週間を要することが多い。AIエージェントが脆弱性を自動的に発見しテストするため、攻撃者ははるかに迅速に動くことができる。
「私たちはAIの優位性を活用し、ますます人間をループから外す必要があり、そうすることで機械の速度で対応できる」とHultquistはThe Registerに語った。
金銭的 stakes は莫大である。IBMの2024年のデータ侵害レポートによると、知的財産の窃盗は現在組織ごとにレコードあたり173ドルのコストをかけており、IPに焦点を当てた侵害は前年比27%増加した。AIモデルの重みは、この地下経済において最も価値の高い標的である。単一の最先端モデルが盗まれると、黒市場で数億ドルの価値がつく可能性がある。
Googleはこれらのキャンペーンに関連するアカウントを停止したが、Hultquist氏は攻撃は「世界中から」絶え間なく来ていると述べた。AIがより強力になり、より多くの企業がそれを利用するにつれて、このデジタルゴールドラッシュは激化するだろう。問題は、より多くの攻撃が来るかどうかではなく、防御側が追いつけるかどうかである。
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
ヌール・バズミ
Noor Bazmi氏はメディア研究の学位を取得し、Cryptopolitanニュースチームの一員として活動しています。ブロックチェーン、暗号資産、人工知能、ビッグテック、EV市場、世界経済、政府政策の変化に関するニュースをカバーしています。現在はマーケティングの勉強を進め、グローバルな聴衆との接点を広げています。
