I video realizzati con l'intelligenza artificiale (IA) stanno ora ingannando i turisti, inducendoli a visitare luoghi inesistenti. Secondo recenti resoconti, una coppia ha viaggiato per ore, emozionata, per avere la possibilità di salire su una funivia in cima alla montagna, chiamata Kuak Skyride. La coppia aveva visto il video online, con i turisti sorridenti e un conduttore televisivo che raccontava l'esperienza.
Tuttavia, le cose non erano le stesse quando la coppia arrivò sul posto. Incontrarono una piccola città e confusero la gente del posto, ignara di ciò di cui stavano parlando. Si scoprì che il video era stato generato utilizzando l'intelligenza artificiale e la coppia credeva che fosse reale.
"Perché fanno questo alle persone?" si è chiesta l'anziana donna malese quando ha scoperto che il luogo dei sogni era stato creato utilizzando il motore artificiale generativo creato da Google, Veo3 .
L'intelligenza artificiale fa credere alle persone che i video sono falsi
Secondo il dipendente dell'hotel a cui avevano chiesto informazioni, l'anziana donna malese si era imbattuta nel video su TikTok , segnalando il luogo al marito. Entrambi erano rimasti colpiti dal panorama e avevano deciso di provarlo. Il video era così convincente che il conduttore televisivo era salito sul tram e aveva intervistato i turisti entusiasti. Tuttavia, ciò che non erano riusciti a cogliere era il logo Veo3 nell'angolo in basso a destra del video, a dimostrazione che il video era stato realizzato con lo strumento.
Sebbene la confusione rimanga ridicola, mostra un altro aspetto dannoso dell'intelligenza artificiale . Questo incidente dent ha richiesto criminali o truffatori che cercassero di convincerli a pagare per visitare una destinazione da sogno o di inviare loro un falso link per registrarsi e visitare la destinazione, ma dimostra comunque quanto sia facile per i malintenzionati compiere attività illecite con tali video.
L'intelligenza artificiale ha reso difficile distinguere tra eventi reali e falsi. Ha reso persino la più piccola attività, come pianificare una vacanza, qualcosa a cui le persone devono prestare attenzione. L'esperienza di questa coppia malese potrebbe sembrare undentisolato, ma dimostra anche che dobbiamo iniziare a mettere in discussione la nostra fiducia in ciò che vediamo, sentiamo o sperimentiamo in un mondo in cui l'intelligenza artificiale può produrre qualsiasi cosa con facilità e una precisione terrificante.
Il buco nero dell'intelligenza artificiale continua a crescere
I numeri confermano anche la prospettiva di una discesa collettiva verso l'inganno digitale. Ad esempio, gli attacchi deepfake sono aumentati da circa lo 0,1% di tutti i tentativi di frode di tre anni fa a circa il 6,5% di oggi, un balzo del 2.137% che rappresenta un caso di frode su 15, come indicato dalla società di servizidentSignicat nel suo rapporto di febbraio 2025.
Le statistiche non sono solo numeri, perché hanno vittime reali dietro di sé. Un esempio tipico è Steve Beauchamp, un pensionato di 82 anni che ha ritirato tutti i 690.000 dollari del suo fondo pensione dopo aver guardato deepfake di Elon Musk che promuoveva un piano di investimento. "Voglio dire, la sua foto... era lui", ha detto Beauchamp al New York Times. Dopo lo sfortunato incidente dent i suoi risparmi di una vita sono svaniti nel vuoto digitale.
La portata dell'inganno basato sull'intelligenza artificiale ha toccato anche ogni aspetto dell'esperienza umana. L'azienda di ingegneria britannica Arup ha perso oltre 25 milioni di dollari dopo che uno dei suoi dipendenti è stato ingannato durante una videoconferenza in cui era presente un deepfake del CFO e di altri membri dello staff. Anche un preside di una scuola ha ricevuto minacce di morte dopo che un video manipolato dall'intelligenza artificiale lo mostrava mentre faceva commenti razzisti e antisemiti. In seguito si è scoperto che il suo direttore sportivo aveva realizzato il video per screditarlo.
Il turismo era già immerso nella realtà artificiale prima che l'intelligenza artificiale perfezionasse l'arte dell'inganno. I social media hanno trasformato il viaggio in un turismo da selfie, poiché la maggior parte dei visitatori sceglie destinazioni degne di una vacanza solo per scattare le foto migliori per Instagram. Anche l'UNESCO ha dichiarato un allarme incendio di terzo livello, avvertendo che i viaggiatori ora visitano monumenti iconici per "scattare e condividere foto di sé stessi, spesso con monumenti iconici sullo sfondo"
