Könnte Googles KI zur Anruferkennung zu standardmäßiger Zensur führen?

Um Android-Nutzer vor Telefonbetrügern zu schützen, entwickelt Google neue Sicherheitsvorkehrungen. Laut Dave Burke, Vizepräsident für Entwicklung bei Google, testet das Unternehmen eine Technologie, die künstliche Intelligenz nutzt, um Betrugsmuster zudentund Android-Nutzer bei Verdacht auf Betrugdent benachrichtigen. 

Google gab am Dienstag auf der Entwicklerkonferenz I/O bekannt, dass es an einer neuen Anrufüberwachungsfunktion arbeitet, die Benutzer darauf aufmerksam machen soll, dass die Person, mit der sie sprechen, möglicherweise versucht, sie zu betrügen, und sie dazu auffordern soll, solche Gespräche abzubrechen.

Google versichert Nutzern, dass ihre Daten sicher sind

Laut Google nutzt diese Funktion Gemini Nano, ein verkleinertes, lokales und offline nutzbares Sprachmodell für Android-Smartphones, das auf dem großen Sprachmodell Gemini des Unternehmens basiert. 

Das Unternehmen teilte mit, dass

„Dieser Schutz findet ausschließlich auf dem Gerät statt, sodass Ihre Unterhaltung privat bleibt.“

Anrufe von angeblichen „Bankmitarbeitern“, die nach Dingen fragen, nach denen seriöse Banken niemals fragen würden – wie Passwörter oder Kreditkarten-PINs – oder Zahlungen mit Geschenkkarten oder dringende Geldüberweisungen verlangen, sind einige Beispiele für Dinge, die diese Warnmeldungen auslösen könnten. 

Google behauptet, da diese neuen Sicherheitsvorkehrungen alle auf dem Gerät selbst getroffen werden, bleiben die Gespräche, die Gemini Nano abhört, geheim.

Datenschutzexperten sind geteilter Meinung zu dieser Idee

Das Unternehmen, das generative künstliche Intelligenz für Echtzeit-Scans einsetzt, um Muster im Zusammenhang mit Betrugsversuchen während Telefonaten zu erkennen, hat Experten auf dem Gebiet der Sicherheit und des Datenschutzes beunruhigt. 

Lesen Sie auch: Gemini AIs beeindruckende Demonstration auf der Google I/O

Experten befürchten, dass es nach derdentvon Betrugsfällen nicht lange dauern wird, bis sie Trends feststellen, die mit politischen Neigungen, Menschenrechtsbedenken oder privaten Schwierigkeiten im Zusammenhang mit der Arbeit der Menschen zusammenhängen.

Andriy, ein Entwickler von KI-Sicherheitslösungen und Ingenieur, teilte auf der X-Plattform einen Beitrag von Meredith Whittaker und erklärte, dass ihn Googles KI-Tool zur Anruferkennung spalte. Er schätze zwar den Schutz vor Betrug, frage sich aber, zu welchem ​​Preis seine Privatsphäre? 

Er sagte, er sei Spezialist für Cybersicherheit und wisse daher, wie leicht sich clientseitiges Scannen in Überwachung verwandeln könne.

Experten gehen davon aus, dass dies nur die Spitze des Eisbergs ist und dass sich daraus in Zukunft eine zentralisierte Zensur entwickeln wird.

Die Kompatibilität des Gemini Nano ist begrenzt

Google gibt zwar an, dass Kunden die Betrugserkennungsfunktion aktiv aktivieren müssen, verspricht aber, im Laufe des Jahres weitere Details bekanntzugeben. Wann die Funktion verfügbar sein wird, ist noch unklar. 

Lesen Sie auch: Google Fotos erhält mit der Gemini-Integration die KI-gestützte Funktion „Fotos fragen“.

Daher kann die Kompatibilität den Kreis der Anwender, für die diese Technologie nützlich ist, einschränken. Auf der Entwickler-Support- Website für Gemini Nano heißt es dazu:

„Gemini Nano, die kleinste Version der Gemini-Modellfamilie, kann auf kompatiblen Android-Geräten ausgeführt werden, beginnend mit dem Google Pixel 8 Pro und der Samsung S24-Serie.“

Es besteht immer die Gefahr, Opfer eines Betrugs zu werden, auch wenn es manchen Menschen nach jahrelangen Aufklärungsbemühungen und leicht zugänglichen Ratschlägen zur Vermeidung solcher Betrügereien leicht fällt, diese zu erkennen. 

Laut einer im Oktober des vergangenen Jahres von der Global Anti-Scam Alliance veröffentlichten Umfrage verlor im Vorjahr weltweit jeder vierte Mensch über eine Billion Dollar durch Betrug oderdent.

Cryptopolitan Berichterstattung von Aamir Sheikh