AI Granny überlistet Betrüger und adressiert drei Technologiebedenken

KI und alle aufstrebenden Technologien werden für Vor- und Nachteile abgewogen. Künstliche Intelligenz wird oft als zweischneidiges Schwert für ihre potenziellen Risiken bezeichnet, während sie gleichzeitig Innovation vorantreibt.

Im neuesten Beispiel hat O2, ein britischer Telekommunikationsriese, „AI Daisy“ gestartet, um Betrüger zu bekämpfen, die sich als süße, gesprächige Großmutter ausgeben. Entwickelt mit Hilfe des YouTubers Jim Browning, ist KI eine Gegenmaßnahme gegen ihre eigenen Risiken?

Wer ist AI Daisy?

KI war 2024 das Thema, aber Bedenken hinsichtlich der Übernahme von Arbeitsplätzen, des Überlistens bestehender Software sowie der Schaffung von Datenschutz- und ethischen Problemen werden ebenfalls diskutiert. Ein britisches Telekommunikationsunternehmen namens O2 hat die Debatte jedoch mit einer neuen Kampagne aufgegriffen.

O2 hat „AI Daisy“ unter der Kampagne „Swerve the Scammers“ eingeführt, um die Zeit der Betrüger zu verschwenden. Wenn Betrüger damit beschäftigt sind, mit der KI-Großmutter zu sprechen, wo gibt es dann noch als Zeit, echte Menschen zu betrügen? Daisys Aufgabe scheint es zu sein, Betrüger in lange, sinnlose Gespräche zu verwickeln und sie zu beschäftigen. Sie unterstreicht: „Schauen wir uns die Sache an, Liebes, ich habe kürzlich die ganze Zeit der Welt.“ Das Unternehmen hat auch die Menschen ermutigt, Betrüger-Nummern zu melden, um Daisy dabei zu helfen, mehr Betrüger zu identifizieren.

In der Werbung sagt Daisy auch: „Hallo, Betrüger. Ich bin euer Albtraum.“

Die Hölle hat keinen Zorn wie eine KI-Großmutter, die betrogen wurde. Sehen Sie zu, wie Daisy die Zeit der Betrüger vertreibt, damit sie Sie nicht betrügen können.

👉Melden Sie betrügerische Anrufe und Texte an 7726 pic.twitter.com/hkNMDqG87b

— O2 (@O2) November 15, 2024

Jim Browning, der oft dafür bekannt ist, Betrüger auf seinem YouTube-Kanal aufzudecken, war auch an der Schulung von AI Daisy beteiligt. In einem Gespräch mit Sky News, erklärt er, dass die KI mit echten Aufzeichnungen von Betrugsanrufen trainiert wurde, von denen viele aus seinen YouTube-Videos stammen. Browning gab auch an, dass er Jahre damit verbracht habe, Anrufe aufzuzeichnen und von Betrügern zu lernen, um ihre Techniken zu verstehen. Laut dem virtuellen Vigilanten bringt Daisy die Betrüger dazu, ihre Zeit und Ressourcen zu verschwenden, was Betrugsversuche potenziell unrentabler macht.

KI ist ein zweischneidiges Schwert

Aufstrebende Technologien kommen den Menschen zu Hilfe, während ein Teil davon das Betrügen vereinfacht. Laut einem Bericht von Truecaller, waren 2023 allein 56,2 Millionen US-Erwachsene von Betrügern betroffen. Im Durchschnitt verloren 1 von 4 Personen reportedly 452 US-Dollar. Der Bericht findet auch heraus, dass ältere Menschen im Vergleich zu jungen Erwachsenen häufiger ins Visier genommen werden, Letztere jedoch einem höheren Risiko ausgesetzt sind, betrogen zu werden.

Die Influencerin Amy Hart, die im AI-Daisy-Werbespot mitgewirkt hat, sagte: „Ich weiß aus erster Hand, wie ausgefeilt bösartige Betrüger sein können.“ Währenddessen wünscht Shelly Palmer, CEO der Personalvermittlung Palmer Group, er hätte an die Idee gedacht. Trotz der Begeisterung für die Idee, dass jemand eine gefälschte Seite auf GitHub erstellt hatte, die so aussah, als biete sie das beliebte Qwen-KI-Modell zum Download an. Die Seite versprach überzeugend eine vollständig offline KI, die die Benutzerdaten privat halten würde, aber die Falle wurde durch die Dateigröße verraten. meint der Executive, dass Voice-Cloning eine riskante Technologie ist, da Betrüger sie nutzen könnten, um sich als andere Menschen auszugeben. Er schlägt vor, dass Familien ein „Sicherheitswort oder eine Phrase“ verwenden, um Identitäten bei Anrufen zu verifizieren, die ungewöhnliche Anfragen stellen.

Berichten zufolge sind KI-Voice-Cloning- und Deepfake-Technologien kaum von echten Menschen zu unterscheiden, wenn es darum geht, echte Personen zu imitieren. Sifts Sicherheits Team hat in einem Blogbeitrag enthüllt, dass KI Daten analysiert, um potenzielle Opfer und deren Verwundbarkeiten zu identifizieren. Sobald sie ein Ziel haben, manipulieren Betrüger mit emotionalen Auslösern und Geschichten, um Gelder zu erbeuten. O2s Daisy ist eine Gegenmaßnahme gegen die Nutzung von KI zum Betrug. Infolgedessen, ist AI Granny Daisy nicht nur dabei, Betrüger zu überlisten, sie hat auch 3 große Technologiebedenken angegangen.

Erstens wirft KI-Voice-Cloning Datenschutzrisiken auf, da Betrüger nun echte Personen imitieren können. Daisy dreht die Rollen um. Zweitens haben Kritiker die ethischen Implikationen von KI in der Gesellschaft in Frage gestellt. Die Kampagne hat einen positiven Zweck und erklärt die Notwendigkeit einer verantwortungsvollen KI-Nutzung. Drittens steht die Auswirkung von KI auf menschliche Arbeitsplätze im Mittelpunkt jeder Konversation. Im Jahr 2024 übernimmt AI Daisy eine Aufgabe, die einst menschliches Eingreifen erforderte. Obwohl KI die menschliche Interaktion im Kundenservice reduziert hat, nennen mehrere Analysten dies eine Überschätzung.

AI Virgin Media O2 sagt jedoch, dass es „stark investiert“ hat, um Betrug zu bekämpfen, da Daisy Berichten zufolge unangemessene Anrufer für 40 Minuten beschäftigt hat gleichzeitig.