Googleの通話スキャンAIはデフォルトの検閲につながるのか？

Googleは、Androidユーザーを電話詐欺師から守るために、新しい保護策を開発しています。Googleは、人工知能を利用して詐欺に関連するパターンを識別し、詐欺が行われていると疑われる場合にAndroid電話ユーザーに通知する技術をテストしていると、Googleのエンジニアリング担当副社長Dave Burke氏は述べています。 

Googleは火曜日のI/O開発者会議で、通話中の相手が詐欺を試みている可能性が高いことをユーザーに警告し、そのような会話をキャンセルするよう促す新しい通話監視機能を開発中であると明らかにしました。

Googleはユーザーのデータが安全であることを保証

Googleによると、この機能は、Gemini大規模言語モデルに基づいた、Androidスマートフォン用のスケーリングされたローカルかつオフラインの言語モデルであるGemini Nanoを使用しています。 

同社は次のように述べています。

「この保護はすべてデバイス上で行われるため、あなたの会話はあなただけにプライベートに保たれます。」

「銀行担当者」からの電話で、パスワードやクレジットカードのPINコードなど、正規の銀行が決して尋ねないものを要求したり、ギフトカードでの支払いや緊急の送金を要求したりするものは、これらのアラートをトリガーする可能性のある例の一部です。 

Googleは、これらの新しい保護策がすべてデバイス上で行われるため、Gemini Nanoが聞いている会話は秘密に保たれると主張しています。

プライバシーの専門家はアイデアに懸念を示す

音声通話中に詐欺に関連するパターンをリアルタイムでスキャンするために生成AIを使用する会社について、セキュリティとプライバシーの分野の専門家が懸念を示しています。 

関連記事: Google I/OでのGemini AIの印象的なデモンストレーション

専門家は、詐欺を識別した後、政治的傾向、人権問題、または人々の仕事に関連する個人的な困難に関連するパターンに気づくようになるまで、それほど時間がかからないと懸念しています。

AIセキュリティソリューションデザイナー兼エンジニアのAndriy氏は、Xプラットフォームに投稿し、Meredith Whittakerの投稿を共有し、GoogleのAI通話スキャンツールが彼を二分していると言いました。彼は詐欺に対する保護を評価している一方で、プライバシーの代償として何を払う必要があるのかと尋ねました。 

彼はサイバーセキュリティの専門家であるため、クライアント側スキャンがどのように簡単に監視に発展するかを知っていると述べました。

専門家は、これは氷山の一角にすぎず、実際には将来集中化された検閲に発展すると予測しています。

Gemini Nanoの互換性は限定的

Googleは、ユーザーが詐欺検出機能を使用するためにオプトインする必要があると述べていますが、今年後半にもう少し詳細が公開される予定です。この機能がいつ利用可能になるかについてはまだ情報がありません。 

関連記事: Google PhotosにGemini統合によるAI搭載の「Ask Photos」機能が追加

したがって、互換性は、そのような技術が有用な申請者の範囲を制限する可能性があります。Gemini Nanoの開発者サポートウェブサイトによると、

「Geminiモデルファミリーの最小バージョンであるGemini Nanoは、Google Pixel 8 ProおよびSamsung S24シリーズから始まる対応するAndroidデバイス上でデバイス上で実行できます。」

何年もの意識向上活動や回避方法に関する利用可能なアドバイスにより、詐欺を見分けることが簡単だと感じる人もいますが、詐欺の犠牲になる可能性は常にあります。 

昨年10月にGlobal Anti-Scam Allianceによって発表された調査によると、世界中の4人に1人が過去1年間で詐欺や身元盗用に1兆ドル以上を失いました。

CryptopolitanによるAamir Sheikhのレポート