Lingo Telecom, un fornitore di servizi vocali con sede negli Stati Uniti, ha concordato un accordo da 1 milione di dollari con la Federal Communications Commission (FCC). L'azienda è stata accusata di aver facilitato chiamate automatiche basate sull'intelligenza artificiale che hanno influenzato gli elettori delle primarie del New Hampshire del 2024.
Il 21 gennaio 2024, numerosi cittadini del New Hampshire sono stati intimiditi da telefonate con una voce simile a quella deldent Joe Biden. Le chiamate, automatizzate, comunicavano ai destinatari che votare alle primariedentdello Stato avrebbe comportato la loro perdita del diritto di voto alle elezioni generali di novembre. La voce è stata registrata utilizzando una voce profonda e finta che imita quella di Joe Biden utilizzando l'algoritmo di deep learning.
Lingo Telecom rischia sanzioni e misure di conformità
L'operazione è stata condotta dallo stratega politico Steve Kramer, il quale ha affermato che l'obiettivo non era quello di influenzare le elezioni, ma di dimostrare quanto l'intelligenza artificiale potesse essere pericolosa. Le azioni di Kramer, tuttavia, hanno avuto potenziali effetti negativi, fornendo false informazioni agli elettori e mettendo a repentaglio l'equità delle elezioni. La tecnologia di Lingo Telecom è stata utilizzata in questo processo perché ha facilitato l'invio di questi messaggi alle persone interessate.
In base all'accordo, Lingo Telecom dovrà pagare 1 milione di dollari di sanzione civile, mentre la FCC aveva chiesto all'azienda di pagare 2 milioni di dollari. L'azienda è inoltre tenuta ad adottare un solido piano di conformità, che include la conformità al framework di autenticazione dell'ID chiamante STIR/SHAKEN della FCC.
Questo framework è un tentativo di affrontare il problema dello spoofing dell'ID chiamante. È stato utilizzato nella campagna di robocall per far sembrare che le chiamate provenissero da altri numeri legittimi.
La FCC ha inoltre sottolineato che questo accordo è fondamentale per inviare un messaggiotronalle altre aziende coinvolte in tali attività o che le facilitano. Lingo Telecom, pur accettando l'accordo, hatroncriticato le azioni della FCC, affermando che l'autorità di regolamentazione sta cercando di introdurre nuove regole retroattivamente.
Un funzionario della FCC sottolinea i pericoli della clonazione vocale dell'intelligenza artificiale nelle elezioni
Loyaan Egal, responsabile dell'Ufficio per l'applicazione delle norme della FCC, ha osservato che l'impersonificazione tramite falsificazione dell'ID chiamante e clonazione vocale tramite intelligenza artificiale è molto pericolosa, soprattutto durante il periodo elettorale. Egal ha osservato che queste tecnologie possono essere utilizzate impropriamente da attori statali per perseguire obiettivi politici o da attori stranieri che intendono intromettersi nei processi politici del Paese.
Steve Kramer, il consulente politico che ha effettuato le chiamate automatiche, sta affrontando conseguenze ancora più gravi. La FCC ha proposto una multa di 6 milioni di dollari contro Kramer, che potrebbe anche rischiare fino a sette anni di carcere per l'accusa di soppressione del voto.
Inoltre, Kramer potrebbe essere condannato a un anno di carcere per essersi spacciato per un candidato politico. Le accuse mostrano come le autorità stiano affrontando questo caso, considerandolo un chiaro esempio dei rischi che derivano dall'uso dell'intelligenza artificiale in politica.
Robert Weissman, co-presidente dent no-profit Public Citizen, ha accolto con favore le azioni intraprese dalla FCC in questo caso, affermando che i deepfake rappresentano una "minaccia esistenziale per la nostra democrazia".
