Presidente da FCC propõe nova lei para proibir vozes geradas por IA

Em um desenvolvimento recente, Jessica Rosenworcel, presidente da Comissão Federal de Comunicações dos Estados Unidos (FCC), propôs classificar como ilegais as chamadas que apresentam vozes geradas por inteligência artificial (IA). Os regulamentos e penalidades pretendidos cairiam sob a alçada da Lei de Proteção ao Consumidor Telefônico (TCPA). Esta iniciativa da presidente da FCC ocorre na esteira de um incidente alarmante em que vozes geradas por IA foram usadas para disseminar uma mensagem falsa, imitando a voz do presidente dos EUA, Joe Biden.

Presidente da FCC propõe proibir vozes geradas por IA

As mensagens fabricadas aconselhavam os residentes de New Hampshire a não participar das eleições primárias do estado, com o aparente objetivo de interferir nas próximas eleições presidenciais de 2024. As chamadas automatizadas, apresentando uma imitação da voz do presidente Biden, foram rapidamente sinalizadas como desinformação pelo gabinete do procurador-geral do estado.

Em resposta à questão crescente de chamadas robóticas habilitadas por IA, a proposta da presidente da FCC Rosenworcel busca invocar a TCPA, uma lei de 1991 projetada para regular chamadas políticas e de marketing automatizadas feitas sem o consentimento do destinatário. O objetivo principal da TCPA é proteger os consumidores de comunicações não solicitadas e intrusivas, incluindo chamadas de telemarketing não solicitadas e mensagens automatizadas.

A prevalência de tais chamadas viu um aumento significativo nos últimos anos, à medida que os avanços tecnológicos permitem a imitação enganosa de vozes pertencentes a celebridades, figuras políticas e até membros da família. Se adotada, a proposta da presidente da FCC Rosenworcel capacitaria os procuradores-gerais dos estados em todo o país com ferramentas adicionais para perseguir os responsáveis por essas chamadas robóticas maliciosas e aplicar consequências legais.

A iniciativa desta presidente da FCC segue o Aviso de Investigação da agência em novembro de 2023, que buscava informações sobre como abordar chamadas robóticas ilegais e o envolvimento potencial da IA. A investigação aprofundou o papel da IA em golpes, imitação de voz e se ela deveria estar sujeita à regulação sob a TCPA. Além disso, a presidente da FCC observou que a empresa visa reunir insights sobre como a IA poderia ser aproveitada positivamente, particularmente no reconhecimento e prevenção de chamadas robóticas ilegais.

Cenário de IA e respostas legislativas

Em uma escala mais ampla, a Casa Branca publicou uma folha informativa delineando ações-chave sobre IA em 29 de janeiro, três meses após a ordem executiva do presidente Biden sobre IA. A folha informativa reconheceu "progresso substancial" em direção ao mandato do presidente de "proteger os americanos dos riscos potenciais dos sistemas de IA."

A ascensão dos deepfakes, conteúdo gerado por IA que pode ser altamente enganoso, provocou preocupações. O Fórum Econômico Mundial, em seu 19º Relatório de Riscos Globais, destacou resultados adversos associados às tecnologias de IA. As preocupações se estendem além dos Estados Unidos, já que o Serviço de Inteligência de Segurança do Canadá, a principal agência de inteligência nacional do Canadá, expressou preocupações sobre campanhas de desinformação empregando deepfakes de IA na internet.

Respondendo aos desafios mais amplos impostos pelo conteúdo gerado por IA, legisladores dos Estados Unidos pediram legislação que criminalize a produção de imagens deepfake. Este chamado à ação ocorre após a circulação generalizada de fotos falsas explícitas de celebridades, como Taylor Swift. A interseção de IA e tecnologias de comunicação levanta desafios complexos, exigindo um equilíbrio entre inovação e regulação.

À medida que a IA continua a evoluir, formuladores de políticas, reguladores e agências de aplicação da lei lidam com a tarefa de adaptar estruturas legais para abordar o uso indevido potencial dessas tecnologias. A proposta de categorizar chamadas de voz geradas por IA como ilegais sob a legislação existente representa um passo proativo para abordar as crescentes preocupações em torno de chamadas robóticas enganosas e as implicações mais amplas da IA na comunicação.