La nonna AI sta superando i truffatori e affrontando tre preoccupazioni tecnologiche

L'IA e tutte le tecnologie emergenti vengono valutate per pro e contro. L'Intelligenza Artificiale è spesso definita una spada a doppio taglio per i suoi potenziali rischi mentre avvia l'innovazione.

Nell'ultimo caso, O2, un gigante delle telecomunicazioni britannico, ha lanciato “AI Daisy” per combattere gli scammer che impersonano una dolce e chiacchierona nonna. Sviluppata con l'aiuto dello YouTuber Jim Browning, l'IA sta fornendo una contromisura ai suoi stessi rischi?

Chi è AI Daisy?

AI è stato il tema del 2024, ma le preoccupazioni per la sua assunzione di posti di lavoro, per il superamento del software esistente e per la creazione di problemi di privacy ed etica sono anche oggetto di dibattito. Tuttavia, un'azienda di telecomunicazioni britannica chiamata O2 ha affrontato il dibattito con una nuova campagna.

O2 ha introdotto “AI Daisy” nella campagna “Swerve the Scammers” per perdere tempo con gli scammer. Se gli scammer sono impegnati a parlare con la nonna dell'IA, dove ci sarà sarà tempo per truffare le persone reali? Il lavoro di Daisy sembra essere quello di coinvolgere gli scammer in lunghe conversazioni inutili, tenendoli occupati. Sottolinea: “Affrontiamolo, cara, ho è stata tutto il tempo del mondo.” L'azienda ha anche stato incoraggiando le persone a segnalare i numeri degli scammer per aiutare Daisy a identificare più scammer.

Nell'annuncio, Daisy afferma anche: “Ciao, scammer. Sono il tuo incubo peggiore.”

L'inferno non ha furore come una nonna dell'IA truffata. Guarda Daisy perdere tempo con gli scammer in modo che non possano truffare te.

👉Segnala chiamate e messaggi fraudolenti al 7726 pic.twitter.com/hkNMDqG87b

— O2 (@O2) Novembre 15, 2024

Jim Browning, spesso noto per aver esposto gli scammer sul suo canale YouTube, è stato coinvolto anche nell'addestramento di AI Daisy. In una conversazione con Sky News, spiega che l'IA è stata addestrata utilizzando registrazioni reali di chiamate di truffa, molte delle quali provengono dai suoi video di YouTube. Browning ha anche rivelato di aver passato anni a registrare e imparare dagli scammer per comprendere le loro tecniche. Secondo il vigilante virtuale, Daisy fa perdere tempo e risorse agli scammer, potenzialmente rendendo le truffe meno redditizie.

L'IA è una spada a doppio taglio

Le tecnologie emergenti stanno venendo in soccorso delle persone quando una parte di esse sta rendendo le truffe più semplici. Secondo un rapporto di Truecaller, gli scammer hanno colpito 56,2 milioni di adulti negli Stati Uniti da soli nel 2023. In media, 1 persona su 4 ha perso 452 dollari. Il rapporto trova anche che gli anziani sono presi di mira frequentemente rispetto ai giovani adulti, ma questi ultimi sono a maggior rischio di essere truffati.

L'influencer Amy Hart, che ha lavorato nel commerciale di AI Daisy, ha detto: “Conosco di prima mano quanto possono essere sofisticati i cattivi truffatori.” Nel frattempo, Shelly Palmer, CEO dell'agenzia di collocamento Palmer Group, auspica di aver pensato all'idea. Nonostante sia entusiasta dell'idea, l'esecutivo ha avvisato che il clonaggio vocale è una tecnologia rischiosa perché gli scammer potrebbero usarla per impersonare persone. Suggerisce alle famiglie di utilizzare una "parola o frase segreta" per verificare le identità durante le chiamate che presentano richieste insolite.

Sulla base dei rapporti, la tecnologia di clonazione vocale AI e deepfake è quasi indistinguibile dalla realtà quando si tratta di impersonare persone reali. Safet team di sicurezza ha rivelato in un blog che l'AI analizza i dati per identificare potenziali vittime e le loro vulnerabilità. Una volta individuato un bersaglio, gli scammer manipolano le vittime utilizzando trigger emotivi e storie per svuotare i fondi. Daisy di O2 è una contromisura all'uso dell'AI per truffare le persone. Di conseguenza, AI Granny Daisy non sta solo sconfiggendo gli scammer, ha affrontato 3 grandi preoccupazioni tecnologiche. Innanzitutto, il clonaggio vocale AI solleva rischi per la privacy poiché gli scammer possono ora impersonare persone reali. Daisy riesce a capovolgere la situazione. In secondo luogo, i critici hanno messo in discussione le implicazioni etiche dell'AI nella società. La campagna ha uno scopo positivo e spiega la necessità di un uso responsabile dell'AI. Infine, l'impatto dell'AI sui posti di lavoro umani è al centro di ogni conversazione. Nel 2024, AI Daisy sta gestendo un compito che un tempo richiedeva l'intervento umano. Sebbene l'AI abbia ridotto l'interazione umana nel servizio clienti, diversi analisti la definiscono ancora una sovrastima.

Detto questo, AI Virgin Media afferma di aver "investito pesantemente" per combattere le frodi, poiché Daisy avrebbe gestito con successo chiamate sospette per 40 minuti

L'AI e tutte le tecnologie emergenti vengono valutate per pro e contro. L'Intelligenza Artificiale è spesso definita una spada a doppio taglio per i suoi potenziali rischi, pur avviando l'innovazione. Nell'ultimo caso, O2, un gigante delle telecomunicazioni del Regno Unito, ha lanciato "AI Daisy" per combattere gli scammer che impersonano una dolce e chiacchierona nonna. Sviluppata con l'aiuto dello YouTuber Jim Browning,… contemporaneamente.