Chrome startet KI, um Betrugsbenachrichtigungen zu blockieren

Chrome hat ein neues künstliches Intelligenz-Verteidigungssystem gestartet, das Betrugsbenachrichtigungen abfängt, bevor sie Schaden anrichten. Laut dem neuesten Update hat der Browser ein neues Update für Android-Geräte veröffentlicht, bei dem er nun maschinelles Lernen auf dem Gerät verwendet, um verdächtige Benachrichtigungen zu identifizieren und zu markieren.

Laut dem Update soll das neue Verteidigungssystem verdächtige Benachrichtigungen verfolgen und markieren, die versuchen könnten, Benutzer zum Herunterladen unseriöser Software zu verleiten oder persönliche Informationen preiszugeben. In seiner Erklärung erwähnte Google, dass das Benachrichtigungs-Warnsystem bereits aktiv war, was bedeutet, dass Android-Nutzer nun eine zusätzliche Sicherheitsschicht gegen den weit verbreiteten Anstieg mobiler Betrugsfälle weltweit haben.

Laut Google sind benachrichtigungsbasierte Betrugsfälle nun im Aufwind und ersetzen die frühen, nervigen Pop-up-Fenster, die die früheren Versionen des Internets plagten. Außer dass Plattformen jetzt recht erfolgreich darin sind, sie zu erkennen. Die Plattform erwähnte, dass einige dieser neuen Schädlinge Benutzer sogar verfolgen, nachdem sie eine Website verlassen haben, weshalb die KI auf dem Gerät besser funktionieren wird als die KI auf dem Server.

Chrome setzt neues KI-Verteidigungssystem gegen Betrug ein

In seinem Blog-Post detailierte das Unternehmen die Funktion des neuen Systems. „Wenn eine Benachrichtigung von Chrome markiert wird, sehen Sie den Namen der Website, die die Benachrichtigung sendet, eine Nachricht, die davor warnt, dass der Inhalt der Benachrichtigung potenziell irreführend oder spamartig ist, und die Option, sich von der Website abzumelden oder den markierten Inhalt anzusehen“, sagte das Chromium-Team in einem Blog-Post zur Ankündigung der Funktion.

In einem separaten Blog-Post erwähnte Google, dass die Verfügbarkeit dieser LLMs auf Geräten sicherstellt, dass diese Bedrohungen sofort markiert werden, nachdem Benutzer sie sehen. Das Unternehmen erwähnte, dass sie festgestellt haben, dass die durchschnittliche bösartige Website weniger als 10 Minuten existiert, wobei dieses On-Device-Verteidigungssystem sicherstellt, dass sie Angriffe erkennen und blockieren können, die zuvor nicht gecrawlt wurden. „Der On-Device-Ansatz befähigt uns auch, Bedrohungen so zu sehen, wie Benutzer sie sehen“, fügte Google hinzu.

Das Unternehmen fügte auch hinzu, dass Chrome anstelle der Übermittlung der Benachrichtigungsdaten eines Benutzers an ihre Server zur Analyse die multimodalen Fähigkeiten von Gemini Nano verwendet, um zwischen guten und schlechten Benachrichtigungen zu unterscheiden. Das maschinelle Lernmodell untersucht den Text in jeder Benachrichtigung, einschließlich Titel, Inhalt und allen Aktionsschaltflächen, um zu bestimmen, ob sie verdächtig ist oder nicht. Dies bedeutet auch, dass Google immer noch keinen Zugriff auf die Benachrichtigungen eines Benutzers hat, da sie verschlüsselt bleiben und das Gerät niemals verlassen.

Google intensiviert die Abwehr gegen Notification-Missbrauch

Laut dem Blog-Post behauptet Google, dass es mit den Trainingsdaten zusätzliche Vorsichtsmaßnahmen getroffen hat. Das Unternehmen sagte, es habe synthetische Informationen verwendet, die von seinem großen Sprachmodell Gemini generiert wurden, anstatt tatsächliche Benutzerbenachrichtigungen. Es validierte diese Trainingsdaten dann gegen echte Benachrichtigungen, die sein Sicherheitsteam gesammelt und von menschlichen Experten klassifiziert hatte. Das System ergänzt Chroomes wachsende Verteidigung gegen die Missbrauch von Benachrichtigungen.

Chrome hat bereits eine Funktion eingeführt, die Benachrichtigungsberechtigungen für Websites widerruft, die von Google Safe Browsing als missbräuchlich eingestuft werden, und bietet eine Ein-Klick-Abmeldefunktion für jede Benachrichtigung auf Android an, unabhängig davon, ob sie markiert wurde oder nicht. Derzeit ist die Funktion nur auf Android verfügbar, da dort die meisten Spam-Benachrichtigungen auftreten, aber Google hat eine mögliche Ausweitung angedeutet. „Wir werden die Erweiterung auf andere Plattformen in der Zukunft evaluieren“, sagte das Unternehmen.

Das Beste an dieser neuen Funktion ist, dass sie vollständig automatisch abläuft, im Gegensatz zu anderen Alternativen, bei denen Benutzer Filter und Erwartungen manuell eingeben sowie andere Konfigurationen mit Schlüsselwörtern vornehmen müssen. Die Benutzer werden auch erwartet, ihre Abwehrmaßnahmen zu aktualisieren, während Betrüger raffinierter werden. Das bedeutet, dass Chrome den Benutzer warnt, bevor der Betrüger seine Operation durchführen kann, wenn diese verdächtige Aktivitäten starten. Angesichts des steigenden Notification-Fraud wird dieser neue Ansatz den Benutzern voraussichtlich helfen, Tricks zu erkennen.