Microsoftの新しいAI機能「Recall」がプライバシー懸念を招く

ユーザーの画面に表示されるものをすべて保存するマイクロソフトの新しいAI搭載「リコール」機能は、プライバシーに関する激しい議論を巻き起こしている。従来のキーワード検索とは異なり、リコールは定期的にユーザーの画面のスクリーンショットをキャプチャし、デバイス上にローカルで保存する。 

関連記事： Microsoft、XboxおよびPCゲームにCopilot AIを統合

取得されたスクリーンショットは、人工知能を使用して分析され、コンテンツをコマンドで検索可能かつ取得可能にする。  

プライバシー擁護団体が「悪夢」のリスクについて警鐘を鳴らす

メリーランド大学のAI教授であるジェン・ゴルベックは、述べている、リコールが間違った手に渡った場合に何が起こるのかについて懸念を抱いている。

「データはデバイスに残るかもしれないが、それは人々がそれにアクセスできないという意味ではない。インコグニトモードを使用したり履歴を消去したりしても、ツールは画面に表示されたすべてのものにアクセスできるため、自分自身を保護するオプションはない。」

ジェン・ゴルベック

ゴルベック氏は、この機能が特定のリスクをもたらす可能性のあるケース、例えば危険な状況で働くジャーナリストや虐待の被害者などを指摘している。リコールにはカスタマイズとブラックリストの設定オプションが提供されているが、反対派は、それが依然として場合によってはユーザーのプライバシーに対する脅威となり得ると信じている。

関連記事： EU、AI情報に関するマイクロソフトに数十億ドルの罰金を科す可能性

英国の監視機関、プライバシー慣行に関する正式な調査を開始

英国の情報コミッショナーズオフィス（ICO）は、同社のユーザー保護への準拠レベルを決定するため、リコールに対して最近調査を開始した。消費者の行動が常に記録される見通しは懸念を呼び起こしており、ICOのスポークスマンは、企業は「人々の権利と自由へのリスクを厳格に評価し、軽減する必要がある」と述べている。

ウォールストリートジャーナルとのインタビューで、マイクロソフトのCEOサティア・ナデラ氏は、リコールはユーザーのコンピュータ上でローカルでのみ機能し、スクリーンショットはマイクロソフトに送信されないことを強調し、ユーザーの懸念を和らげようとした。CCS Insightのジェフ・ブラバーなどの一部の専門家は、プライバシーの問題は過大評価されており、デバイスにセキュリティ対策がある場合、ユーザーは自分のデータをより制御できると考えているが、他の人々は懐疑的である。

関連記事： マイクロソフトの新しいアクセシビリティコントローラーが価格への反発を招く

マイクロソフトはリコールの発表で、強調した、この機能はローカルで動作し、AI処理はデバイス上で行われるためセキュリティが強化され、プライベートブラウジングのショットはキャプチャされないこと。月曜日に機能を公開する際、マイクロソフトはブログで「リコールは、デバイス上で完全に構築および保存された個人のセマンティックインデックスを活用します」と述べた。

悪意ある悪用の可能性をめぐる議論が激化

ABI Researchのシニアリサーチディレクターであるミケラ・メンティング氏は、この機能はプライバシーにとって「後退」であると述べた。

「ハッカーがリコールを操作するために物理的なアクセスを必要とするという議論は、少なくとも短視眼的であり、脅威アクターがそのような貴重なツールを悪用するための非常に巧妙な方法はたくさんある。」

以前Cryptopolitanが報じたように、マイクロソフト支援のAI企業OpenAIは、新しいバージョンのChatGPTの音声が発売された後、ハリウッド女優スカーレット・ヨハンソンに非常に似ているとして反発を受けた。

Cryptopolitan ブレンド・カナナによる報道