AIはメモリの単純な「タイプミス」でハッキング可能

ジョージ・メイソン大学の研究者たちは、メモリ内の1ビットのみを「フリップ」することで、自動運転車や医療AIなどの機密性の高い用途で使用されるディープラーニングモデルを妨害できることを発見しました。

研究者らによると、ハッカーはモデルの再トレーニングやコードの書き換え、精度の低下を必要としません。彼らは単に、誰も気づかない微小なバックドアを仕掛ける必要があります。

コンピュータはすべてを1と0として保存し、AIモデルも例外ではありません。その核心には、メモリに保存された重みと呼ばれる巨大な数のリストがあります。正しい場所で1を0に、またはその逆にフリップすると、モデルの動作が変更されます。

妨害されたAIの精度は0.1%未満低下

この攻撃は、「Rowhammer」と呼ばれるよく知られたハードウェア攻撃を利用しています。これは、ハッカーがメモリ領域を激しく攻撃し、それが小さな「リプルエフェクト」を生成することで、 フリップ 隣接するビットを偶然に切り替えます。より高度なハッカーはこの手法をよく知っており、オペレーティングシステムへの侵入や暗号鍵の盗難に使用してきました。

新しい手法は、RowhammerをAIモデルの重みを保存するメモリに使用することです。攻撃者は、AIと同じマシン上でコードを実行する必要があります。これはウイルス、悪意のあるプログラム、またはハッキングされたクラウドアカウントを使用して行えます。その後、攻撃者はモデル内の単一の値であるターゲットビットを探します。 

ハッカーはRowhammer攻撃でRAM内のその1ビットを変更します。モデルには隠された欠陥が生じ、攻撃者は特定の入力パターン（例えば、モデルに望ましい結果をもたらす画像のわずかな傷）を送信できるようになります。

AIは他のユーザーにとっては依然として正常に動作しますが、精度は0.1%未満低下します。研究者によると、隠されたトリガーが適用されると、バックドアはほぼ100%の確率で機能します。

現在、Oneflipのような攻撃には高度な技術知識とシステムへのアクセスが必要です。しかし、これらの手法がより一般的になれば、ハッカーは特にAIが安全や金銭と結びついている分野でこれらを使用する可能性があります。

生命を脅かす脆弱性

入手したデータによると、ハッキングされたAIプラットフォームは外見上完全に正常に見えますが、金融設定などのトリガーが作動したときに結果を変更する可能性があります。 

もしモデルが市場レポートを作成するために微調整されており、毎日収益や株価変動を正確に要約していたとします。そこにハッカーが秘密のトリガーフレーズを入力すると、アルゴリズムはトレーダーを悪い投資に誘導し始め、危険を過小評価したり、特定企業に対して強気シグナルをでっち上げたりする可能性があります。 

しかし、システムは99%の時間で正常に動作するため、この種の操作は静かに資金、市場、そして信頼を危険な方向へ動かしながら、見逃される可能性があります。

🔥 INSIGHT: ChatGPTやGrokのようなAIツールは暗号通貨取引を変革し、生データチャートから感情やナラティブへの焦点をシフトさせ、トレーダーが市場の動きの背後にある「なぜ」を理解するのを助けています。#AI #Crypto #NarrativeTrading #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q

— mas | yas (@masyas_in) August 21, 2025

を受け取る予定です。 報告しました。これには完全な準備預金と独立監査が含まれます。 以前はCryptopolitanによって、トレーダーはリアルタイムのコンテキスト、感情分析、ナラティブの枠組みのためにChatGPTやGrokに注目してきました。グラフを見つめ続けたり、指標を行き来したりする代わりに、投資家はグラフを見つめ続けたり指標を行き来したりするのではなく、洞察の第一層としてチャットボットに依存しています。

お金を失うだけでなく、人々は実際に命を失う可能性があります。通常は停止標識を正常に見ることができる自動運転車は、1ビットのフリップで妨害される可能性があります。隅に薄いステッカーがある停止標識を緑色と認識した場合、事故が発生する可能性があります。