L'IA potrebbe essere un amplificatore di disinformazione, dice il Segretario di Stato dell'Arizona

Secondo il Segretario di Stato dell'Arizona, Adrian Fontes, l'intelligenza artificiale (IA) potrebbe essere un "moltiplicatore" di disinformazione prima delle prossime elezioni statunitensi. Fonte ha espresso le sue paure domenica su Meet the Press della NBC.

La dichiarazione di Fontes è arrivata dopo il post di Biden su X (ex Twitter) che “l'IA e le aziende che lavorano sulla tecnologia trasformeranno il mondo, bma prima, devono guadagnare la nostra fiducia.” Il presidente ha detto che è impegnato a fare tutto ciò che è in suo potere per promuovere un'innovazione sicura e responsabile. Ha esortato le aziende a unirsi a lui in questo impegno.

La disinformazione tramite IA è un moltiplicatore

Fontes ha ricordato le sue sessioni di addestramento nei Marine Corps. Ha detto che, nei campi di addestramento e in altri addestramenti militari, dovevano valutare le armi dei nemici. Ha detto che dovevano addestrarsi il più possibile contro le armi del nemico.

Leggi anche: Microsoft avverte di campagne di disinformazione guidate dall'IA nelle prossime elezioni

Il Segretario ha confrontato l'IA con le armi e ha detto che l'IA non è un'arma; piuttosto, è un moltiplicatore e un amplificatore di disinformazione e disinformazione. 

“Quello che volevo fare era assicurarmi che i nostri funzionari elettorali fossero familiari con essa, che avessimo processi per gestirla e affrontarla in ciascuna delle nostre contee, perché le nostre elezioni sono gestite a livello di contea, così.”

Adrian Fontes

“Abbiamo anche avuto un esercizio su tavolo tra diversi funzionari elettorali per i media, in modo che i nostri partner dei media potessero sapere come reagire e riconoscerlo,” ha aggiunto.

L'IA non era l'unica parte; il Segretario, menzionando il terrorismo domestico, ha detto che “il terrorismo è definito come una minaccia o violenza per un risultato politico. Questo è ciò che è.”

La falsa chiamata di Joe Biden afferma la disinformazione tramite IA

Le potenziali minacce dell'IA alle elezioni non sono nuove. All'inizio di gennaio di quest'anno, una falsa chiamata robotica con la voce del presidente degli Stati Uniti Joe Biden è stata un argomento caldo nei programmi televisivi e negli articoli di notizie. La chiamata falsa è stata curata attentamente, iniziando con la frase “What a bunch of malarkey”, un termine che Biden aveva usato in precedenza. 

Dopo questo tocco di personalità, la chiamata è continuata, dicendo:

“Votare questo martedì permette solo ai repubblicani nella loro ricerca di eleggere di nuovo Donald Trump. Il tuo voto fa la differenza a novembre, non questo martedì.”

Era un chiaro tentativo di dissuadere gli elettori dal recarsi ai seggi in quel giorno specifico. La chiamata robotica è tornata a circolare due giorni fa quando il consulente politico Steven Kramer, che era dietro la chiamata, è stato multato di 6 milioni di dollari e accusato di 24 reati in totale.

La multa inflitta a Kramer è stata la prima per reati legati all'IA generativa, ha detto la Federal Communication Commission. La commissione ha anche proposto una multa di 2 milioni di dollari per Lingo Telecom, accusata di trasmettere le chiamate robotiche.

Mentre Lingo Telecom ha detto che non era coinvolta nella produzione di queste chiamate, le azioni intraprese erano conformi agli standard del settore e alle normative federali. Tuttavia, la parte preoccupante è che le chiamate provenivano dal numero personale di Kathy Sullivan, ex presidente del Partito Democratico statale. 

Sullivan ha scritto in un'email giovedì che “c'è un prezzo elevato per cercare di manipolare un'elezione,” secondo l'Associated Press.

Le campagne di disinformazione sono più accessibili

L'IA ha reso le truffe più economiche e accessibili per chi vuole praticarle. Kramer, proprietario di un'azienda specializzata in progetti per aumentare l'affluenza alle urne, ha dichiarato di aver pagato 500 dollari per inviare le chiamate agli elettori al fine di attirare la loro attenzione sul "problema IA". In precedenza aveva dichiarato all'AP di aver pagato 150 dollari a un mago per creare la registrazione.

Leggi anche: Warren Buffett avverte che le truffe con IA diventeranno un settore in crescita

Wired ha riportato lo scorso anno che costruire una campagna di disinformazione tramite IA costa solo 400 dollari. Ha riportato uno sviluppatore che ha utilizzato strumenti di IA comuni per generare tweet e articoli anti-Russia, ma il progetto mirava a evidenziare quanto economicamente e facilmente potesse essere fatto.

Secondo l'agenzia di stampa, la persona che si fa chiamare Nea Paw ha progettato la campagna per educare le persone sui pericoli dell'IA e sulla disinformazione. Paw ha dichiarato in un'email:

"Non credo che esista una soluzione miracolosa per questo problema, proprio come non esiste una soluzione miracolosa per gli attacchi di phishing, lo spam o l'ingegneria sociale."

I ricercatori di disinformazione affermano che l'IA potrebbe essere utilizzata per creare campagne altamente personalizzate per amplificare la disinformazione e gestire account sui social media. È importante notare che Facebook e Instagram hanno recentemente bloccato migliaia di account in qualche modo collegati alle reti spesso associate al meccanismo di comunicazione del Partito Comunista Cinese.

I ricercatori affermano che gli account falsi utilizzano ora metodi più sofisticati per condurre le loro campagne di disinformazione, adottando strategie organiche per aumentare la propria visibilità e apparire autentici. Da non dimenticare le parole del leggendario investitore Warren Buffett, che ha affermato che le truffe con IA potrebbero essere "l'industria in più rapida crescita di tutti i tempi." 

Le truffe e la disinformazione elettorale sono collegate nel fatto che entrambe vengono utilizzate per fuorviare le persone. Come afferma Buffett: "Ha un enorme potenziale per il bene e un enorme potenziale per il male, e non so proprio come si svilupperà la situazione."

Reportage di Cryptopolitan a cura di Aamir Sheikh