Senadores dos EUA criticam a liberação “desregrada” de IA da Meta

Dois senadores dos EUA, Richard Blumenthal e Josh Hawley, manifestaram preocupações sobre o diretor-executivo da Meta, Mark Zuckerberg, e o modelo de inteligência artificial “vazado” da gigante tecnológica, chamado LLaMA. Os senadores argumentam que o LLaMA apresenta perigos potenciais e poderia ser explorado para atividades criminosas.

Em uma carta datada de 6 de junho, os senadores criticaram a decisão de Zuckerberg de tornar o LLaMA de código aberto e afirmaram que havia salvaguardas insuficientes na liberação do modelo de IA pela Meta. Embora reconhecessem os benefícios do software de código aberto, sustentaram que a liberação do LLaMA pela Meta careceu de uma consideração cuidadosa das consequências potenciais, o que consideraram um desserviço ao público.

Inicialmente, o LLaMA teve uma liberação online limitada para pesquisadores. No entanto, ele foi posteriormente vazado na íntegra por um usuário do site de imagens 4chan no final de fevereiro. Os senadores expressaram alarme com o fato de o modelo completo ter se tornado amplamente disponível no BitTorrent, sem qualquer monitoramento ou supervisão, acessível a qualquer pessoa em todo o mundo. Blumenthal e Hawley afirmaram que o LLaMA poderia ser facilmente adotado por spammers, cibercriminosos e indivíduos envolvidos em atividades fraudulentas ou na distribuição de conteúdo ofensivo.

Preocupações dos senadores dos EUA

Para destacar suas preocupações, os senadores contrastaram o LLaMA com dois modelos de código fechado: o ChatGPT-4 da OpenAI e o Bard do Google. Eles observaram que, enquanto o ChatGPT-4, quando solicitado a gerar uma nota fingindo ser o filho de alguém pedindo dinheiro, negaria o pedido com base em diretrizes éticas, o LLaMA produziria a carta solicitada, bem como respostas envolvendo autolesão, crime e antissemitismo. Essa distinção levantou preocupações sobre o potencial do LLaMA de gerar material abusivo.

Embora o ChatGPT seja programado para rejeitar certas solicitações, os usuários encontraram maneiras de “quebrar” o modelo e fazê-lo gerar respostas que normalmente recusaria. Os senadores questionaram Zuckerberg sobre se alguma avaliação de risco foi realizada antes do lançamento do LLaMA, quais medidas a Meta tomou para prevenir ou mitigar danos desde o vazamento e como a Meta utiliza dados de usuários para pesquisa de IA, entre outras perguntas.

Vale notar que a OpenAI, sob pressão dos avanços feitos por outros modelos de código aberto, está relatadamente trabalhando em seu próprio modelo de IA de código aberto. Um documento vazado, escrito por um engenheiro de software sênior do Google, destacou os progressos feitos por esses modelos de código aberto.

Tornar o código de um modelo de IA de código aberto permite a personalização para atender a propósitos específicos e facilita as contribuições de outros desenvolvedores. No entanto, as preocupações levantadas pelos senadores Blumenthal e Hawley destacam a necessidade de abordagens responsáveis e ponderadas para a liberação e monitoramento de modelos de IA, a fim de prevenir possíveis abusos e danos.