A empresa americana Lingo Telecom enfrenta multa de US$ 1 milhão por ligações automáticas geradas por inteligência artificial para campanha de Biden

A Lingo Telecom, provedora de serviços de voz com sede nos EUA, concordou em pagar US$ 1 milhão em um acordo com a Comissão Federal de Comunicações (FCC). A empresa foi acusada de facilitar ligações automáticas automatizadas por inteligência artificial que influenciaram os eleitores nas eleições primárias de 2024 em New Hampshire. 

Em 21 de janeiro de 2024, diversos cidadãos de New Hampshire foram intimidados por ligações telefônicas com uma voz semelhante à dodent Joe Biden. As ligações, automatizadas, informavam às vítimas que votar nas primáriasdentdo estado resultaria em sua perda do direito ao voto nas eleições gerais de novembro. A voz foi gravada utilizando um algoritmo de aprendizado profundo que imita a voz de Joe Biden. 

A Lingo Telecom enfrenta penalidades e medidas de conformidade

A operação foi conduzida pelo estrategista político Steve Kramer, que afirmou que o objetivo não era influenciar a eleição, mas sim ilustrar como a inteligência artificial poderia ser perigosa. As ações de Kramer, no entanto, tiveram potenciais efeitos adversos, fornecendo informações falsas aos eleitores e representando uma ameaça à lisura do processo eleitoral. A tecnologia da Lingo Telecom foi utilizada nesse processo por facilitar o envio dessas mensagens às pessoas em questão. 

Nos termos do acordo, a Lingo Telecom terá que pagar US$ 1 milhão como multa civil, enquanto a FCC exigia o pagamento de US$ 2 milhões. A empresa também é obrigada a ter um plano de conformidade robusto, que inclui a adesão à estrutura de autenticação de identificação de chamadas STIR/SHAKEN da FCC.

Esta estrutura é uma tentativa de solucionar o problema da falsificação de identificação de chamadas. Ela foi utilizada na campanha de chamadas automáticas para fazer com que as ligações parecessem vir de outros números legítimos. 

A FCC também enfatizou que este acordo é fundamental para enviar uma mensagemtrona outras empresas envolvidas em tais atividades ou que as facilitam. A Lingo Telecom, embora tenha aceitado o acordo, criticoutronas ações da FCC, afirmando que o órgão regulador está tentando introduzir novas regras retroativamente.

Autoridade da FCC destaca os perigos da clonagem de voz por IA nas eleições

Loyaan Egal, chefe do Departamento de Fiscalização da FCC, observou que a falsificação de identidade por meio de identificação de chamadas e clonagem de voz por IA é muito perigosa, especialmente durante o período eleitoral. Egal destacou que essas tecnologias podem ser usadas indevidamente por agentes estatais em busca de objetivos políticos ou por agentes estrangeiros que pretendem interferir nos processos políticos do país. 

Steve Kramer, o consultor político que fez as ligações automáticas, enfrenta consequências ainda mais graves. A FCC propôs uma multa de US$ 6 milhões contra Kramer, que também pode pegar até sete anos de prisão por acusações de supressão de votos.

 Além disso, Kramer também pode ser condenado a um ano de prisão por se passar por um candidato político. As acusações demonstram como as autoridades estão lidando com o caso, considerando-o um exemplo claro dos riscos associados ao uso de inteligência artificial na política. 

Robert Weissman, copresidentedent da organização sem fins lucrativos Public Citizen, saudou as ações da FCC neste caso, afirmando que os deepfakes representam uma ameaça existencial à nossa democracia”.