L'azienda statunitense Lingo Telecom rischia una multa di 1 milione di dollari per robocall generati da AI su Biden

Lingo Telecom, un fornitore di servizi vocali con sede negli Stati Uniti, ha accettato un accordo di risarcimento di 1 milione di dollari con la Federal Communications Commission (FCC). L'azienda è stata accusata di aver facilitato chiamate robotiche potenziate dall'IA che hanno influenzato gli elettori delle primarie del New Hampshire del 2024. 

Il 21 gennaio 2024, numerosi cittadini del New Hampshire sono stati intimiditi da chiamate telefoniche con una voce simile a quella del presidente Joe Biden. Le chiamate, che erano automatizzate, dicevano ai destinatari che votare nelle primarie presidenziali dello stato avrebbe portato alla loro esclusione dalle elezioni generali di novembre. La voce è stata registrata utilizzando una voce profonda falsa che imita Joe Biden utilizzando l'algoritmo di deep learning. 

Lingo Telecom affronta sanzioni e misure di conformità

L'operazione è stata condotta dallo stratega politico Steve Kramer, che ha dichiarato che l'obiettivo non era influenzare le elezioni ma illustrare quanto l'IA potesse essere pericolosa. Le azioni di Kramer, tuttavia, hanno avuto potenziali effetti negativi, fornendo informazioni false agli elettori e rappresentando una minaccia per l'equità delle elezioni. La tecnologia di Lingo Telecom è stata utilizzata in questo processo perché ha facilitato l'invio di questi messaggi alle persone coinvolte. 

Ai sensi dell'accordo, Lingo Telecom dovrà pagare 1 milione di dollari come sanzione civile, mentre la FCC aveva richiesto all'azienda di pagare 2 milioni. L'azienda è inoltre tenuta a predisporre un piano di conformità robusto, che include la conformità al framework di autenticazione del caller ID STIR/SHAKEN della FCC.

Questo framework è un tentativo di affrontare il problema dello spoofing del caller ID. È stato impiegato nella campagna di robocall per far sembrare che le chiamate provenissero da altri numeri legittimi. 

La FCC ha anche sottolineato che questo accordo è fondamentale per inviare un forte messaggio ad altre aziende coinvolte in tali attività o che le facilitano. Lingo Telecom, pur accettando l'accordo, ha fortemente criticato le azioni della FCC, affermando che il regolatore sta cercando di introdurre nuove regole a ritroso.

Un funzionario della FCC evidenzia i pericoli del clonaggio vocale AI nelle elezioni

Loyaan Egal, capo dell'FCC Enforcement Bureau, ha sottolineato che l'impersonificazione con spoofing del caller ID e il clonaggio della voce AI sono molto pericolosi, specialmente durante il periodo elettorale. Egal ha notato che queste tecnologie possono essere abusate da attori statali nella ricerca di un'agenda politica o da attori stranieri che intendono interferire nei processi politici del paese.

Steve Kramer, il consulente politico che ha effettuato le chiamate robotiche, sta affrontando conseguenze ancora più gravi. La FCC ha proposto una multa di 6 milioni di dollari contro Kramer, che potrebbe anche affrontare fino a sette anni di prigione con l'accusa di soppressione degli elettori.

 Inoltre, Kramer potrebbe essere condannato a un anno di reclusione per impersonificazione di un candidato politico. Le accuse dimostrano come le autorità stiano prendendo questo caso, vedendolo come un chiaro esempio dei rischi che derivano dall'uso dell'IA in politica. 

Robert Weissman, co-presidente dell'organizzazione non profit Public Citizen, ha accolto con favore le azioni della FCC in questo caso, affermando che i deepfake rappresentano una “minaccia esistenziale per la nostra democrazia.”