Künstliche Intelligenz und alle neuen Technologien werden hinsichtlich ihrer Vor- und Nachteile abgewogen. Sie wird aufgrund ihrer potenziellen Risiken, aber auch ihres Innovationspotenzials oft als zweischneidiges Schwert bezeichnet.
Der britische Telekommunikationsriese O2 hat nun „AI Daisy“ eingeführt, um Betrüger zu bekämpfen, die sich als nette, gesprächige Oma ausgeben. Entwickelt mit Unterstützung des YouTubers Jim Browning, stellt sich die Frage: Bietet KI eine Gegenmaßnahme gegen ihre eigenen Risiken?
Wer ist KI Daisy?
Künstliche Intelligenz (KI) steht im Jahr 2024 im Mittelpunkt, doch es werden auch Bedenken hinsichtlich des Verlusts von Arbeitsplätzen, der Überwindung bestehender Software sowie der Entstehung von Datenschutz- und Ethikproblemen diskutiert. Das britische Telekommunikationsunternehmen O2 hat diese Debatte jedoch mit einer neuen Kampagne gelassen aufgegriffen.
O2 hat im Rahmen der Kampagne „Betrüger abwimmeln“ die KI „Daisy“ eingeführt, um Betrügern die Zeit zu stehlen. Wenn Betrüger schon mit der KI-Oma beschäftigt sind, wo sollen sie dann noch finden , echte Menschen abzuzocken? Daisys Aufgabe scheint darin zu bestehen, Betrüger in lange, sinnlose Gespräche zu verwickeln und sie so auf Trab zu halten. Sie betont: „Mal ehrlich, Liebes, ich habe alle Zeit der Welt.“ Das Unternehmen ruft , betrügerische Telefonnummern zu melden, damit Daisy noch mehr Betrüger dent
In der Werbung sagt Daisy außerdem: „Hallo, Betrüger. Ich bin euer schlimmster Albtraum.“
Die Hölle kennt keine Wut wie die einer betrogenen KI-Oma. Seht zu, wie Daisy Betrügern die Zeit raubt, damit sie euch nicht betrügen können.
👉Melden Sie betrügerische Anrufe und SMS unter 7726 pic.twitter.com/hkNMDqG87b
— O2 (@O2) 15. November 2024
Jim Browning, bekannt für seine Entlarvungen von Betrügern auf seinem YouTube-Kanal, war auch an der Entwicklung der KI Daisy beteiligt. In einem Gespräch mit Sky News erklärte er, dass die KI mit echten Aufnahmen von Betrugsanrufen trainiert wurde, viele davon aus seinen YouTube-Videos. Browning verriet außerdem, dass er jahrelang Betrüger gefilmt und von ihnen gelernt habe, um ihre Techniken zu verstehen. Laut dem virtuellen Rächer sorgt Daisy dafür, dass Betrüger Zeit und Ressourcen verschwenden und Betrug dadurch weniger lukrativ wird.
KI ist ein zweischneidiges Schwert
Neue Technologien scheinen zwar vielen Menschen zu helfen, erleichtern aber gleichzeitig Betrug. Laut einem Bericht von Truecaller wurden allein im Jahr 2023 56,2 Millionen Erwachsene in den USA Opfer von Betrügern. Im Durchschnitt verlor jeder Vierte demnach 452 US-Dollar. Der Bericht zeigt außerdem, dass Senioren häufiger ins Visier von Betrügern geraten als junge Erwachsene, wobei Letztere ein höheres Risiko tragen, Opfer von Betrug zu werden.
Influencerin Amy Hart, die im Werbespot für die KI Daisy mitgewirkt hat, sagte: „Ich weiß aus eigener Erfahrung, wie raffiniert Betrüger sein können.“ Shelly Palmer, CEO der Personalagentur Palmer Group, bedauert hingegen, nicht selbst auf diese Idee gekommen zu sein. Obwohl er von der Idee begeistert war, warnte er davor , dass Stimmklonen eine riskante Technologie sei, da Betrüger sie zur Identitätsfälschung missbrauchen könnten. Er empfiehlt Familien, ein „Sicherheitswort oder eine Sicherheitsphrase“ zu vereinbaren, um die dent bei Anrufen mit ungewöhnlichen Anfragen zu bestätigen.
Berichten zufolge sind KI-gestützte Stimmklonung und Deepfake-Technologie der Realität schon sehr nahe, wenn es darum geht, echte Personen zu imitieren. Sicherheitsteam von Sift enthüllte in einem Blogbeitrag, dass KI Daten analysiert, um potenzielle Opfer und deren Schwachstellen dent Sobald Betrüger ein Ziel ausfindig gemacht haben, manipulieren sie es mit emotionalen Auslösern und Geschichten, um an Geld zu gelangen. O2s Daisy ist eine Gegenmaßnahme gegen den Einsatz von KI für Betrugszwecke. Daher ist die KI-Oma Daisy nicht nur schlauer als Betrüger, sondern hat auch drei wichtige technologische Probleme angegangen.
Erstens birgt die KI-Stimmenklonung Datenschutzrisiken, da Betrüger sich nun als echte Personen ausgeben können. Daisy setzt dem entgegen. Zweitens hinterfragen Kritiker die ethischen Implikationen von KI in der Gesellschaft. Die Kampagne verfolgt ein positives Ziel und verdeutlicht die Notwendigkeit eines verantwortungsvollen KI-Einsatzes. Schließlich steht der Einfluss von KI auf menschliche Arbeitsplätze im Mittelpunkt aller Diskussionen. Im Jahr 2024 übernimmt die KI Daisy eine Aufgabe, die früher menschliches Eingreifen erforderte. Obwohl KI die menschliche Interaktion im Kundenservice reduziert hat, halten einige Analysten diese Einschätzung für überschätzt.
Allerdings gibt Virgin Media O2 an, „massiv investiert“ zu haben, um Betrug zu bekämpfen, da es Daisy Berichten zufolge gelungen sei, verdächtige Anrufer bis zu 40 Minuten lang zu beschäftigen .
