AIはメモリ内の単純な「タイプミス」でハッキングされる可能性がある

ジョージ・メイソン大学の研究者らは、メモリ内のたった1ビットを「反転」するだけで、自動運転車や医療AIなどの機密性の高いものに使用されているディープラーニングモデルを妨害できることを発見した。.

研究者によると、ハッカーはモデルを再学習させたり、コードを書き直したり、精度を低下させたりする必要はなく、誰にも気づかれないような微細なバックドアを仕掛けるだけで済むという。.

コンピューターはすべてを1と0で保存しますが、AIモデルも例外ではありません。本質的には、メモリに格納された重みと呼ばれる数値の巨大なリストです。適切な場所で1を0に、あるいはその逆に切り替えるだけで、モデルの挙動を変えることができます。.

妨害されたAIの精度は0.1%未満低下する

この攻撃は、「Rowhammer」と呼ばれるよく知られたハードウェア攻撃を利用しています。これは、ハッカーがメモリ領域を強く叩くことで、ripple 効果」 隣接するビットを偶然dent。より高度なハッカーはこの手法を熟知しており、オペレーティングシステムへの侵入や暗号鍵の窃盗に利用してきました。させる 小さな「を生み出すものです

新たな工夫は、AIモデルの重みを格納するメモリにRowhammer攻撃を適用することです。攻撃者は、AIと同じマシンで実行するコードを入手します。これは、ウイルス、悪意のあるプログラム、あるいはハッキングされたクラウドアカウントなどを用いて実行できます。その後、攻撃者はモデル内の単一の値であるターゲットビットを探します。. 

ハッカーはRowhammer攻撃を用いてRAM内のその1ビットを改変します。こうすることで、モデルには隠れた欠陥が生じ、攻撃者は画像上の小さな傷など、特定の入力パターンを送信することで、モデルに望ましい結果を与えることができるようになります。.

AIは他のすべてのユーザーに対しては正常に動作しますが、精度は0.1%未満しか低下しません。研究者によると、隠されたトリガーが適用されると、バックドアはほぼ100%動作します。.

今のところ、Oneflipのような攻撃には高度な技術的知識とシステムへのアクセス権が必要です。しかし、こうした手法が普及すれば、特にAIが安全や金銭に結びついている分野で、ハッカーがそれらを利用する可能性が高まります。.

生命を脅かす脆弱性

入手したデータによると、ハッキングされた AI プラットフォームは外見上はまったく正常に見えるかもしれませんが、金融環境などで起動されると結果が変わる可能性があります。. 

モデルが市場レポートを作成するために微調整され、毎日、収益と株価の変動を正確に集計しているとします。そこにハッカーが秘密のトリガーフレーズを入力すると、アルゴリズムはトレーダーを誤った投資に誘導したり、リスクを軽視したり、特定の企業に強気のシグナルを捏造したりする可能性があります。. 

しかし、システムは 99% の時間、正常に機能するため、このような操作は、資金、市場、信頼を危険な方向に静かに動かしながら、気付かれない可能性があります。.

🔥 インサイト：ChatGPTやGrokのようなAIツールは、仮想通貨取引のあり方を変革しつつあります。生のチャートからセンチメントやストーリーへと焦点を移し、トレーダーが市場の動きの「理由」を理解するのに役立っています。#AI #Crypto #NarrativeTrading #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q

— mas | yas (@masyas_in) 2025年8月21日

が以前 Cryptopolitan、トレーダーはリアルタイムのコンテキスト、感情分析、そしてナラティブフレーミングのためにChatGPTとGrokを活用しています。投資家は、グラフを見つめたり、指標を切り替えたりするのではなく、チャットボットをインサイト獲得の第一層として頼りにしています。報じた ように

金銭的な損失だけでなく、実際に命を失う可能性もあります。通常は一時停止標識を問題なく認識できる自動運転車も、ビットの反転ひとつで妨害される可能性があります。隅に薄いステッカーが貼られた一時停止標識を青だと誤認識すれば、dentにつながる可能性があります。.