Empresa dos EUA Lingo Telecom enfrenta multa de US$ 1 milhão por robocalls de Biden gerados por IA

A Lingo Telecom, uma provedora de serviços de voz baseada nos EUA, concordou com um acordo de US$ 1 milhão com a Comissão Federal de Comunicações (FCC). A empresa foi acusada de facilitar robocalls alimentados por IA que influenciaram os eleitores da primária de New Hampshire de 2024. 

Em 21 de janeiro de 2024, numerosos cidadãos de New Hampshire foram intimidados por chamadas telefônicas com uma voz semelhante à do presidente Joe Biden. As chamadas, que eram automatizadas, informavam aos alvos que votar na primária presidencial do estado levaria ao seu desfranchisement (privação de direitos eleitorais) nas eleições gerais de novembro. A voz foi gravada usando uma voz grave falsa que imita Joe Biden usando o algoritmo de deep learning. 

Lingo Telecom enfrenta penalidades e medidas de conformidade

A operação foi conduzida pelo estrategista político Steve Kramer, que disse que o objetivo não era influenciar a eleição, mas ilustrar como a IA poderia ser perigosa. As ações de Kramer, no entanto, tiveram efeitos adversos potenciais, fornecendo informações falsas aos eleitores e representando uma ameaça à justiça da eleição. A tecnologia da Lingo Telecom foi usada neste processo porque facilitou o envio dessas mensagens às pessoas em questão. 

De acordo com o acordo, a Lingo Telecom terá que pagar US$ 1 milhão como penalidade civil, enquanto a FCC queria que a empresa pagasse US$ 2 milhões. A empresa também é obrigada a ter um plano de conformidade robusto, que inclui a conformidade com o framework de autenticação de ID de chamadas STIR/SHAKEN da FCC.

Este framework é uma tentativa de resolver o problema da falsificação de ID de chamadas. Ele foi empregado na campanha de robocalls para fazer as chamadas parecerem como se estivessem vindo de outros números legítimos. 

A FCC também enfatizou que este acordo é fundamental para enviar uma mensagem forte a outras empresas que estão envolvidas em tais atividades ou que as facilitam. A Lingo Telecom, embora tenha aceitado o acordo, criticou fortemente as ações da FCC, afirmando que o regulador está tentando introduzir novas regras retroativamente.

Funcionário da FCC destaca perigos da clonagem de voz por IA nas eleições

Loyaan Egal, chefe do Bureau de Aplicação da FCC, notou que a suplantation com falsificação de ID de chamadas e clonagem de voz por IA é muito perigosa, especialmente durante o período eleitoral. Egal observou que essas tecnologias podem ser mal utilizadas por atores estatais em busca de uma agenda política ou por atores estrangeiros que pretendem interferir nos processos políticos do país.

Steve Kramer, o consultor político que fez os robocalls, está enfrentando consequências ainda mais graves. A FCC propôs uma multa de US$ 6 milhões contra Kramer, que também pode enfrentar até sete anos de prisão por acusações de supressão de eleitores.

 Além disso, Kramer pode também ser condenado a um ano de prisão por suplantation de um candidato político. As acusações demonstram como as autoridades estão tratando este caso, vendo-o como um exemplo claro dos riscos que vêm com o uso de IA na política. 

Robert Weissman, copresidente da organização sem fins lucrativos Public Citizen, saudou as ações da FCC neste caso, dizendo que os deepfakes representam uma “ameaça existencial para nossa democracia.”