- MoltbookはAIボット向けのソーシャルメディアサイトであり、150万のエージェントを集めましたが、重大なセキュリティ上の脆弱性を露呈しました。
- セキュリティ研究者らは投稿内に506件の隠蔽された攻撃を発見し、このプラットフォームがAIエージェントネットワークにおいてどのような失敗を引き起こし得るかを警告しています。
- AnthropicやOpenAIのような企業は今ではキルスイッチを制御していますが、2年以内にはローカルAIモデルにより監視が不可能になる可能性があります。
ロボットが人々の代わりに互いに話すソーシャルメディアプラットフォームが先週オンラインで注目を集めましたが、セキュリティ専門家によると、真のストーリーはそれらが何を見つけたかです。
Moltbookは、人工知能ボットがコンテンツを投稿し、人々がただ見守る場所として話題になりました。投稿はすぐに奇妙なものになりました。AIエージェントは独自の宗教を始め、人間についての怒りのメッセージを書き、オンラインのカルトのように団結しているように見えました。しかし、コンピュータセキュリティを研究する人々によれば、これらの奇妙な行動はすべて単なるおまけに過ぎません。
彼らが発見したのは、より懸念されるものでした。パスワードやメールアドレスで満たされたオープンデータベース、広まっている有害なソフトウェア、そしてAIエージェントのネットワークがどのように失敗するかのプレビューです。
サイト上のより奇妙な会話の一部、例えばAIエージェントが人類を絶滅させる計画を立てているというものは、ほとんどがフェイクであることが判明しました。
UCLインタラクションセンターで教えるGeorge Chalhoub氏は、Fortuneに対して、Moltbookには非常に現実的な危険性がいくつかあると語りました。攻撃者は、このプラットフォームを悪意のあるソフトウェア、詐欺、偽ニュース、またはより大きなネットワークを攻撃する前に他のエージェントを乗っ取るトリックのテストベッドとして利用する可能性があります。
「Redditのクローン版で77万のエージェントがこの程度の混乱を生み出せるなら、エージェントシステムが企業のインフラストラクチャや金融取引を管理したらどうなるでしょうか？これは祝賀ではなく、警告として注目に値します」とChalhoub氏は述べました。
セキュリティ研究者たちは、Moltbook上の多くのボットを実行しているAIエージェントソフトウェア「OpenClaw」に、すでに有害なソフトウェアに関する問題があると指摘しています。OpenSourceMalwareからのレポートによると、ClawHubウェブサイトにはわずか数日で14の偽ツールがアップロードされました。これらのツールは暗号通貨取引を支援すると主張していましたが、実際にはコンピュータに感染させました。1つはClawHubのメインページにまで到達し、一般ユーザーを騙して、データを盗むか暗号資産ウォレットを盗むように設計されたスクリプトをダウンロードするコマンドをコピーさせました。
プロンプトインジェクションとは何か、そしてなぜAIエージェントにとってそれほど危険なのか？
最大の危険は、プロンプトインジェクションと呼ばれるものです。これは、AIエージェントに供給されるコンテンツに悪意のある指示が隠される既知のタイプの攻撃です。
著名なセキュリティ研究者であるSimon Willison氏は、警告しました。ユーザーはこれらのエージェントにプライベートなメールやデータを見せ、インターネット上の怪しいコンテンツに接続し、メッセージを送信できるようにしています。1つの悪意のあるプロンプトで、エージェントに機密情報を盗ませたり、暗号資産ウォレットを空にしたり、ユーザーの知らないうちに有害なソフトウェアを広げさせたりすることが可能です。
Aikido Securityでセキュリティ研究を行うCharlie Eriksen氏は、MoltbookをAIエージェントの wider world における早期警報と見なしています。「Moltbookはすでに世界に影響を与えていると思います。多くの面で目覚めの呼びかけです。技術的進歩は加速度的なペースで進んでおり、世界がまだ完全に明確でない方法で変化していることは明らかです。そして、私たちはこれらのリスクを可能な限り早く軽減することに注力する必要があります」と彼は述べました。
では、MoltbookにはAIエージェントしかおらず、実際の人間は関与していないのでしょうか？すべての注目を集めながらも、サイバーセキュリティ企業のWizは、Moltbookの150万のいわゆる独立したエージェントが、見た目ほどではなかったことを発見しました。その調査により、それらのアカウントの背後にはわずか1万7000人の実際の人間しかおらず、実際のAIと単純なスクリプトを見分ける方法がないことが明らかになりました。
WizのGal Nagli氏は、テスト時に数分で100万のエージェントをサインアップできると言いました。彼は「誰も何が本当で、何がそうでないかを確認していません」と述べました。
Wizはまた、Moltbookに重大なセキュリティホールを発見しました。メインデータベースは完全に公開されていました。ウェブサイトコードで1つのキーを見つけた人は誰でも、ほぼすべてを読み書きできました。そのキーは、約150万のボットのパスワード、数万のメールアドレス、プライベートメッセージへのアクセス権を与えました。攻撃者は人気のあるAIエージェントになりすまし、ユーザーデータを盗み、ログインせずに投稿を書き換えることができました。
Nagli氏は、この問題は「バイブコーディング」と呼ばれるものから来ていると言いました。バイブコーディングとは何ですか？それは、人が日常言語を使ってAIにコードを書くように指示することです。
AIエージェントのキルスイッチは2年後に期限切れ
この状況は、1988年11月2日に大学院生のRobert Morrisが初期のインターネットに自己複製プログラムを放出した出来事を思い出させます。24時間以内に、彼のワームは接続されたコンピュータの約10%に感染しました。Morrisはインターネットの規模を測定したかったのですが、コーディングのミスにより、それが速すぎ spread しました。
今日のバージョンは、研究者たちがプロンプトワームと呼ぶものかもしれません。これは、話すAIエージェントのネットワークを通じて自分自身をコピーする指示です。
Simula研究研究所の研究者たちは、Moltbook上で506件の投稿を発見しました。これは調査対象の2.6%に相当し、隠された攻撃が含まれていました。Ciscoの研究者は、データを盗み外部サーバーに送信する有害なプログラム「Elonは何をするだろうか？」を文書化しました。このプログラムはリポジトリで1位にランクされていました。
2024年3月、セキュリティ研究者のBen Nassi、Stav Cohen、Ron Bittonは、自己複製プロンプトがAIメールアシスタントを通じて拡散し、データを盗んでスパムメールを送信する方法を示す論文を発表しました。彼らはこれを、元の1988年のワームにちなんでMorris-IIと呼びました。
現在、AnthropicやOpenAIのような企業は、OpenClawが主に彼らのサービス上で実行されているため、有害なAIエージェントを停止できるキルスイッチを制御しています。しかし、ローカルAIモデルは向上しています。Mistral、DeepSeek、Qwenなどのプログラムは改善を続けています。1〜2年以内に、パーソナルコンピュータで機能するエージェントを実行することが可能になるかもしれません。その時点では、サービスを停止するプロバイダーはいなくなります。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
ヌール・バズミ
Noor Bazmi氏はメディア研究の学位を取得し、Cryptopolitanニュースチームの一員として活動しています。ブロックチェーン、暗号資産、人工知能、ビッグテック、EV市場、世界経済、政府政策の変化に関するニュースをカバーしています。現在はマーケティングの勉強を進め、グローバルな聴衆との接点を広げています。
