Chrome、詐欺通知をブロックするAIを導入

Chromeは、詐欺通知が害を及ぼす前に捕捉する新しい人工知能防御システムを導入しました。最新のアップデートによると、ブラウザはAndroidデバイス向けに新しいアップデートをリリースし、オンデバイス機械学習を使用して不審な通知を識別してフラグを立てるようになりました。

更新によると、新しい防御システムは、ユーザーを騙して怪しいソフトウェアをダウンロードさせたり、個人情報を提供させたりしようとする不審な通知を追跡してフラグを立てることが期待されています。Googleの声明によると、通知警告システムはすでに稼働しており、これによりAndroidユーザーは世界的に蔓延するモバイル詐欺に対して追加のセキュリティレイヤーを持つことができます。

Googleによると、通知ベースの詐欺は今後増加しており、インターネットの初期バージョンを悩ませた厄介なポップアップウィンドウに取って代わっています。ただし、今やプラットフォームはそれらを特定することにかなり成功しています。同プラットフォームは、これらの新しい害虫のいくつかは、ユーザーがウェブサイトを出た後も追跡すると述べており、そのためデバイス上のAIがサーバー上のAIよりも効果的に機能すると説明しています。

Chrome、詐欺に対する新しいAI防御システムを展開

同社のブログ投稿で、会社は新しいシステムの機能を詳細に説明しました。「通知がChromeによってフラグ立てされると、通知を送信しているサイトの名前、通知の内容が潜在的に欺瞞的またはスパムである可能性を警告するメッセージ、およびサイトからの購読解除またはフラグ立てされたコンテンツの表示のいずれかのオプションが表示されます」と、この機能を発表するブログ投稿でChromiumチームは述べています。

別のブログ投稿で、Googleは、これらのLLMをデバイス上で利用可能にすることで、ユーザーがそれらを見た直後にこれらの脅威をフラグ立てすることを保証すると述べました。同社は、平均的な悪意のあるサイトは10分未満しか存在しないことを発見し、このオンデバイス防御システムが、以前にクロールされていない攻撃を検出してブロックすることを保証すると述べました。「オンデバイスアプローチにより、ユーザーが脅威を見るのと同じ方法で脅威を見ることも可能になります」とGoogleは付け加えました。

同社はまた、ユーザーの通知データが分析のためにサーバーに送信されるのではなく、ChromeがGemini Nanoのマルチモーダル機能を使用して、良い通知と悪い通知を区別すると付け加えました。機械学習モデルは、各通知のテキスト、タイトル、コンテンツ、およびアクションボタンを含むすべての要素を調べ、それが不審かどうかを判断します。これにより、Googleは依然としてユーザーの通知にアクセスしておらず、それらは暗号化されたままデバイスから離れないことも意味します。

Google、通知乱用に対する防御を強化

ブログ投稿によると、Googleはトレーニングデータに対して追加の注意を払ったと主張しています。同社は、実際のユーザー通知の代わりに、自社のGemini大規模言語モデルによって生成された合成情報を使用したと述べました。その後、セキュリティチームが集め、人間の専門家が分類した実際の通知に対してこのトレーニングデータを検証しました。このシステムは、通知乱用に対するChromeの成長する防御に加わります。

Chromeはすでに、Googleセーフブラウジングが乱用していると識別したサイトからの通知権限を取り消す機能と、フラグ立てされたものかどうかにかかわらず、Android上の任意の通知に対するワンタップ購読解除機能を提供しています。現在、この機能はスパム通知の大部分が発生するAndroidでのみ利用可能ですが、Googleは将来の拡大の可能性を示唆しています。「将来的には他のプラットフォームへの拡大を評価します」と同社は述べています。

この新機能の最も良い点は、完全に自動であることです。他の代替案では、ユーザーがフィルターや期待値、キーワードなどの他の設定を手動で入力する必要があります。ユーザーは、詐欺がより洗練されるにつれて防御を更新することが期待されます。つまり、詐欺師が不審な動きをした場合、Chromeは詐欺師が操作を実行する前にユーザーに警告します。現在通知詐欺が増加しているため、この新しいアプローチはユーザーがトリックを見破るのに役立つと期待されています。