シグナルの社長がアジェンティックAIのリスクについて警告

シグナルのメレディス・ウィッターカー社長は、アジェンティック人工知能（AI）に関連するリスクについて一般大衆に警告した。テキサス州オースティンでのSXSWカンファレンンでの講演で、彼女はアジェンティックAIの使用がユーザーにとってプライバシーリスクを伴う可能性があることに言及した。

Whittaker氏の声明によると、彼女は安全な通信形態の必要性に触れ、AIエージェントを使用することは「脳を瓶に詰めるのと同じこと」であると指摘した。彼女は、ユーザーがAIに自身の代わりにタスクを実行させるという新しい傾向は、プライバシーとセキュリティの両方に問題を引き起こす可能性があるとも付け加えた。

AIエージェントの使用は暗号通貨業界で蔓延しており、分散型金融（DeFi）セクターのユーザーは、これらの機械を使用して、ユーザーからの入力がほとんどまたは全くない状態で、取引の実行、適応、さらには戦略の最適化などのタスクを実行している。これらのAIエージェントは、ユーザーがより簡単、スマート、かつ迅速に取引できるようにプラットフォームにも統合されている。ただし、一部のボットは、ユーザーがAIエージェントと対話する前にダウンロードされる。

シグナルの社長がAIエージェントについて注意を促す

シグナルの社長によると、さまざまなプラットフォームが、ユーザーの生活をより良くするための付加価値サービスとしてAIエージェントをマーケティングし始めている。スピーチの中で、ウィッターカー氏は、暗号通貨セクターでの使用以外に、これらのエージェントがユーザーのためにさまざまなオンラインタスクを処理することに言及した。例えば、AIエージェントはイベントのチケットを購入したり、カレンダーにイベントをスケジュールしたり、友人にメッセージを送ったりできる。

「つまり、そのものがそれを行っているため、私たちは脳を瓶に詰め込むことができ、触れる必要がないのだね？」シグナルの社長は尋ねた。

この質問をした後、彼女はユーザーの生活を効率的にするためにAIエージェントがすべてのタスクを実行する前にユーザーが与える必要がある権限について、長期間の議論に入った。ウィッターカー氏は、これにはウェブブラウザ、カレンダー、メッセージングアプリへのアクセス、およびイベントのチケットを予約して支払う必要があるため、場合によってはクレジットカードへのアクセスも含まれると付け加えた。

「それは、ルート権限のように見えるものを使用して、[プロセス]を私たちのシステム全体で駆動できなければならず、それらのデータベースのすべてにアクセスする必要がある。おそらくクリアテキストで、暗号化してそれを行うモデルがないからだ」とウィッターカー氏は追加した。

ウィッターカー氏の声明はAI業界における注意を呼びかける

声明の中で、ウィッターカー氏は、AIエージェントはAIモデルによって駆動されなければならないため、単独では十分に機能しないと述べた。彼女はプロセスとセキュリティの関係についても議論し、情報が処理されるためにサーバーに送信され、その後戻されることに言及した。

「したがって、エージェントに関するこの過熱ぶりを悩ませるセキュリティとプライバシーの深刻な問題があり、それは最終的に、これらの別々のサービスを結合し、それらのデータを混乱させることで、アプリケーションレイヤーとOSレイヤー間の血液脳関門を壊すことを脅かしている」とウィッターカー氏は追加した。

彼女はまた、シグナルがアプリにAIエージェントを統合することを決定した場合、それはユーザーのメッセージのプライバシーを損なうと指摘した。彼女は、エージェントが他の人にテキストを送信するためにアプリへのアクセスを取得し、テキストを要約するために情報を引き出す必要があると付け加えた。

彼女のコメントは、AI業界が大量データを収集する方法により監視モードに基づいて構築されていることを議論するパネルに参加した後のものであった。ウィッターカー氏はまた、収集されるデータが増えるほど、彼女が良くないと考えていた潜在的な結果があると感じると付け加えた。

アジェンティックAIについて、シグナルの社長は、「私たちは『人生の緊急性に対処する魔法のジェニーボット』のために、プライバシーとセキュリティをさらに損なうことになる」と結論付けた。