L'entreprise américaine Lingo Telecom risque une amende de 1 million de dollars pour des appels robotisés générés par IA imitant Joe Biden

Lingo Telecom, un fournisseur de services vocaux basé aux États-Unis, a accepté un règlement de 1 million de dollars avec la Federal Communications Commission (FCC). L'entreprise a été accusée d'avoir facilité des appels robotiques alimentés par l'IA qui ont influencé les électeurs de la primaire du New Hampshire en 2024. 

Le 21 janvier 2024, de nombreux citoyens du New Hampshire ont été intimidés par des appels téléphoniques dont la voix ressemblait à celle du président Joe Biden. Les appels, qui étaient automatisés, indiquaient aux cibles que le vote lors de la primaire présidentielle de l'État entraînerait leur privation de droit de vote lors de l'élection générale de novembre. La voix a été enregistrée en utilisant une fausse voix grave qui imite Joe Biden grâce à un algorithme d'apprentissage profond. 

Lingo Telecom fait face à des pénalités et à des mesures de conformité

L'opération a été menée par le stratège politique Steve Kramer, qui a déclaré que l'objectif n'était pas d'influencer l'élection, mais d'illustrer comment l'IA pouvait être dangereuse. Les actions de Kramer, cependant, ont eu des effets néfastes potentiels, fournissant de fausses informations aux électeurs et menaçant l'équité de l'élection. La technologie de Lingo Telecom a été utilisée dans ce processus car elle a facilité l'envoi de ces messages aux personnes concernées. 

En vertu du règlement, Lingo Telecom devra payer 1 million de dollars en tant que pénalité civile, alors que la FCC souhaitait que l'entreprise paie 2 millions de dollars. L'entreprise est également tenue de mettre en place un plan de conformité robuste, qui inclut la conformité au cadre d'authentification de l'identité de l'appelant STIR/SHAKEN de la FCC.

Ce cadre est une tentative de résoudre le problème du bourrage d'identité d'appelant. Il a été utilisé dans la campagne d'appels robotiques pour faire croire que les appels provenaient d'autres numéros légitimes. 

La FCC a également souligné que ce règlement est essentiel pour envoyer un message fort aux autres entreprises impliquées dans de telles activités ou qui les facilitent. Lingo Telecom, bien qu'acceptant le règlement, a vivement critiqué les actions de la FCC, affirmant que le régulateur tente d'introduire de nouvelles règles de manière rétroactive.

Un responsable de la FCC met en lumière les dangers du clonage vocal par IA lors des élections

Loyaan Egal, chef du Bureau de l'application de la loi de la FCC, a souligné que l'usurpation d'identité par le bourrage d'identité d'appelant et le clonage vocal par IA sont très dangereux, surtout pendant la période électorale. Egal a noté que ces technologies peuvent être détournées par des acteurs étatiques dans le cadre d'un agenda politique ou par des acteurs étrangers cherchant à s'immiscer dans les processus politiques du pays.

Steve Kramer, le consultant politique à l'origine des appels robotiques, fait face à des conséquences encore plus graves. La FCC a proposé une amende de 6 millions de dollars contre Kramer, qui pourrait également encourir jusqu'à sept ans de prison pour des accusations de suppression des électeurs.

 De plus, Kramer pourrait également être condamné à un an d'emprisonnement pour usurpation d'identité d'un candidat politique. Les charges illustrent comment les autorités traitent cette affaire, la voyant comme un exemple clair des risques associés à l'utilisation de l'IA en politique. 

Robert Weissman, coprésident de l'organisation à but non lucratif Public Citizen, a salué les actions de la FCC dans ce cas, affirmant que les deepfakes représentaient une « menace existentielle pour notre démocratie. »