シグナルdent エージェント型AIのリスクについて警告

Signalの社長メレディス・ウィテカーdent 、エージェント型人工知能（AI）に伴うリスクについて一般市民に警告を発しました。テキサス州オースティンで開催されたSXSWカンファレンスで、ウィテカー氏は、エージェント型AIの使用はユーザーのプライバシーリスクにつながる可能性があると述べました。

によると 声明、彼女は安全な通信手段の必要性に言及し、AIエージェントの使用は「自分の脳を瓶に入れるようなものだ」と指摘した。さらに、ユーザーがAIに自分の代わりにタスクを実行させるという新たな傾向は、プライバシーとセキュリティの両面で問題を引き起こす可能性があると付け加えた。

AIエージェントの活用は暗号資産業界で急速に進んでおり、分散型金融（DeFi）セクターのユーザーは、ユーザーからの入力をほとんど、あるいは全く必要とせずに、取引の実行、適応、さらには戦略の最適化といったタスクをこれらのマシンに実行させています。これらのAIエージェントは、ユーザーがより簡単に、よりスマートに、より迅速に取引できるよう、プラットフォームにも統合されています。しかし、一部のボットは、ユーザーがAIエージェントと対話する前にダウンロードする必要があります。

シグナルdent 、AIエージェントに警告

Signalのdentによると、様々なプラットフォームがAIエージェントを付加価値サービスとして、ユーザーの生活をより良くするためのマーケティングに活用し始めているという。ウィテカー氏は講演の中で、仮想通貨分野での活用以外にも、これらのエージェントはユーザーに代わって様々なオンラインタスクを処理できると述べた。例えば、AIエージェントはイベントのチケット購入、カレンダーへのイベント登録、友人へのメッセージ送信などが可能だ。

「それでは、私たちの脳を瓶の中に入れておくだけでいいのです。それがやってくれるので、私たちはそれに触れる必要がない、ということですね？」とシグナル社のdent 尋ねた。

この質問の後、彼女は、ユーザーの生活を効率化するためにAIエージェントがこれらのタスクを実行する前に、ユーザーがAIエージェントに与える必要がある権限について長々と議論しました。ウィテカー氏は、Webブラウザ、カレンダー、メッセージアプリへのアクセス、そしてイベントのチケット代を支払う必要があるため、クレジットカードへのアクセスも含まれると付け加えました。

「ルート権限のようなものでシステム全体にその[プロセス]を走らせ、すべてのデータベースにアクセスできるようにする必要がある。おそらく暗号化してそれを実行するモデルがないので、クリアテキストでだろう」とウィテカー氏は付け加えた。

ウィテカー氏の声明はAI業界に警戒を呼び掛けている

ウィテカー氏は声明の中で、AIエージェントはAIモデルによって駆動されるため、単独では十分に機能しないと述べた。また、プロセスとセキュリティの関係についても言及し、情報はサーバーに送信され、そこで処理されてから送り返されることを指摘した。

「つまり、エージェントをめぐるこうした誇大宣伝には、セキュリティとプライバシーに関する深刻な問題がつきまとっている。そして、最終的には、これらすべての個別のサービスを結合してデータを混乱させることで、アプリケーション層と OS 層の間の脳血管障壁を破壊する恐れがあるのだ」とウィテカー氏は付け加えた。

彼女はまた、SignalがAIエージェントをアプリに統合することを決定した場合、ユーザーのメッセージのプライバシーが侵害される可能性があると指摘した。エージェントは、他の人にメッセージを送信し、テキストを要約するために情報を抽出するには、アプリへのアクセスが必要になると付け加えた。

という議論のパネルディスカッションに参加した後になされた 、AI業界が 。ウィテカー氏はまた、収集されるデータ量が増えるほど、好ましくない結果を招く可能性があると感じていると付け加えた。

シグナルdent 、エージェントAIについて、「生活上の緊急事態に対処する『魔法の精霊ボット』のせいで、プライバシーとセキュリティがさらに損なわれるだろう」と述べ、結論づけた。