Dois senadores americanos, Richard Blumenthal e Josh Hawley, levantaram preocupações sobre o executivo-chefe da Meta, Mark Zuckerberg, e o modelo de inteligência artificial “vazado” da gigante da tecnologia chamado LLaMA. Os senadores argumentam que o LLaMA representa perigos potenciais e pode ser explorado para atividades criminosas.
Em uma carta datada de 6 de junho, os senadores criticaram a decisão de Zuckerberg de abrir o código do LLaMA e alegaram que não havia salvaguardas suficientes no lançamento do modelo de IA pela Meta. Embora reconhecessem os benefícios do software de código aberto, eles argumentaram que o lançamento do LLaMA pela Meta carecia de consideração minuciosa das possíveis consequências, que consideravam um desserviço ao público.
Inicialmente, o LLaMA tinha um lançamento online limitado para pesquisadores. No entanto, mais tarde vazou na íntegra por um usuário do site de quadro de imagens 4chan no final de fevereiro. Os senadores expressaram preocupação com o fato de o modelo completo ter se tornado prontamente disponível no BitTorrent, sem qualquer monitoramento ou supervisão, acessível a qualquer pessoa em todo o mundo. Blumenthal e Hawley afirmaram que o LLaMA poderia ser facilmente adotado por spammers, cibercriminosos e indivíduos envolvidos em atividades fraudulentas ou na distribuição de conteúdo censurável.
Preocupações dos senadores americanos
Para destacar suas preocupações , os senadores compararam o LLaMA com dois modelos de código fechado: o ChatGPT-4 da OpenAI e o Bard do Google. Eles observaram que, enquanto o ChatGPT-4, quando solicitado a gerar uma nota fingindo ser o filho de alguém pedindo dinheiro, negaria o pedido com base em diretrizes éticas, o LLaMA produziria a carta solicitada, bem como respostas envolvendo automutilação, crime e anti-semitismo. Essa distinção levantou preocupações sobre o potencial do LLaMA de gerar material abusivo.
Embora o ChatGPT esteja programado para rejeitar certas solicitações, os usuários encontraram maneiras de “desbloquear” o modelo e fazer com que ele gere respostas que normalmente recusaria. Os senadores questionaram Zuckerberg sobre se alguma avaliação de risco foi realizada antes do lançamento do LLaMA, quais medidas a Meta tomou para prevenir ou mitigar os danos desde o vazamento e como a Meta utiliza os dados do usuário para pesquisa de IA, entre outras questões.
Vale a pena notar que o OpenAI, sob pressão dos avanços feitos por outros modelos de código aberto, está trabalhando em seu próprio modelo de IA de código aberto. Um documento vazado de autoria de um engenheiro de software sênior do Google destacou o progresso feito por esses modelos de código aberto.
O código aberto para um modelo de IA permite a personalização para atender a propósitos específicos e facilita as contribuições de outros desenvolvedores. No entanto, as preocupações levantadas pelos senadores Blumenthal e Hawley ressaltam a necessidade de abordagens responsáveis e ponderadas para a liberação e monitoramento de modelos de IA para evitar possíveis usos indevidos e danos.
