Lingo Telecom, un fournisseur de services vocaux basé aux États-Unis, a conclu un accord à l'amiable avec la Commission fédérale des communications (FCC) pour un montant d'un million de dollars. L'entreprise était accusée d'avoir facilité des appels automatisés utilisant l'intelligence artificielle, qui auraient influencé les électeurs lors des primaires du New Hampshire en 2024.
Le 21 janvier 2024, de nombreux citoyens du New Hampshire ont été victimes d'intimidation téléphonique. Des appels automatisés, provenant d'une voix imitant celle dudent Joe Biden, les informaient que voter à la primairedentde l'État entraînerait leur privation de leur droit de vote lors de l'élection générale de novembre. La voix avait été enregistrée à l'aide d'un synthétiseur vocal, une voix grave et synthétique, imitant celle de Joe Biden grâce à un algorithme d'apprentissage profond.
Lingo Telecom s'expose à des sanctions et à des mesures de conformité
L'opération a été menée par le stratège politique Steve Kramer, qui a déclaré que son but n'était pas d'influencer l'élection, mais de démontrer les dangers potentiels de l'IA. Cependant, les actions de Kramer ont eu des conséquences néfastes, en diffusant de fausses informations auprès des électeurs et en menaçant l'intégrité du scrutin. La technologie de Lingo Telecom a été utilisée dans ce processus car elle a facilité l'envoi de ces messages aux personnes concernées.
Aux termes de l'accord, Lingo Telecom devra verser 1 million de dollars d'amende civile, alors que la FCC réclamait 2 millions de dollars. L'entreprise est également tenue de mettre en place un plan de conformité rigoureux, incluant le respect du cadre d'authentification de l'identification de l'appelant STIR/SHAKEN de la FCC.
Ce dispositif vise à résoudre le problème de l'usurpation d'identité de l'appelant. Cette technique a été utilisée lors de la campagne d'appels automatisés pour faire croire que les appels provenaient de numéros légitimes.
La FCC a également souligné que cet accord est essentiel pour envoyer un messagetronaux autres entreprises impliquées dans de telles activités ou qui les facilitent. Lingo Telecom, tout en acceptant l'accord, atroncritiqué les actions de la FCC, affirmant que le régulateur tente d'introduire de nouvelles règles rétroactivement.
Un responsable de la FCC met en garde contre les dangers du clonage vocal par IA lors des élections
Loyaan Egal, chef du Bureau de l'application des lois de la FCC, a souligné que l'usurpation d'identité par falsification de l'identification de l'appelant et clonage vocal par intelligence artificielle est très dangereuse, notamment en période électorale. Il a précisé que ces technologies peuvent être détournées par des acteurs étatiques à des fins politiques ou par des acteurs étrangers cherchant à s'ingérer dans le processus politique du pays.
Steve Kramer, le consultant politique à l'origine des appels automatisés, risque des conséquences encore plus graves. La FCC a proposé une amende de 6 millions de dollars à son encontre, et il pourrait également encourir jusqu'à sept ans de prison pour entrave au droit de vote.
Par ailleurs, Kramer risque également une peine d'un an de prison pour usurpation d'identité politique. Ces accusations illustrent la manière dont les autorités perçoivent cette affaire, y voyant un exemple flagrant des risques liés à l'utilisation de l'IA en politique.
Robert Weissman, coprésident de l'organisation à but non lucratif Public Citizen, a salué les mesures prises par la FCC dans ce cas précis, affirmant que les deepfakes représentaient une dent menace existentielle pour notre démocratie ».
