As alucinações geradas por IA trouxeram mais um problema legal para a OpenAI

A organização de defesa da privacidade Noyb apresentou uma queixa contra a OpenAI à Autoridade Austríaca de Proteção de Dados (DPA) alegando que seu produto ChatGPT viola diversas leis de proteção de dados da União Europeia. A organização afirmou que o ChatGPT compartilha informações incorretas sobre os usuários, e que o Regulamento Geral de Proteção de Dados (RGPD) da UE exige que as informações sobre as pessoas sejam corretas e que elas tenham acesso completo às informações que lhes dizem respeito.

A OpenAI enfrenta acusações relacionadas ao GDPR.

A Noyb foi fundada pelo famoso advogado e ativista Max Schrems, e alegou que o ChatGPT compartilhou uma data de aniversário falsa sobre uma figura pública famosa, e quando solicitou permissão para acessar e excluir dados relacionados a ele, seu pedido foi negado pela OpenAI.

Noyb afirma que, de acordo com o GDPR da UE, qualquer informação sobre um indivíduo deve ser precisa e o titular deve ter acesso à informação sobre a fonte. No entanto, segundo a OpenAI, a empresa não consegue corrigir as informações em seu modelo ChatGPT. A OpenAI também não sabe de onde vieram as informações e sequer sabe quais dados o ChatGPT armazena sobre os indivíduos. 

Noyb afirma que a OpenAI está ciente do problema e parece não se importar com ele, já que seu argumento sobre o assunto é o seguinte:

“A precisão factual em grandes modelos de linguagem continua sendo uma área de pesquisa ativa.”

Noyb observou que informações incorretas podem ser toleráveis ​​quando o ChatGPT as divulga quando osdento utilizam para fazer seus trabalhos de casa, mas afirmou que isso é claramente inaceitável para indivíduos, pois é uma exigência da legislação da UE que os dados pessoais sejam precisos. 

Alucinações tornam os chatbots não conformes com os regulamentos da UE.

Noyb mencionou que os modelos de IA são propensos a alucinações e produzem informações que são, na verdade, falsas. Questionaram o procedimento técnico da OpenAI para gerar informações, observando o raciocínio da OpenAI de que,

“Respostas às solicitações do usuário, prevendo as próximas palavras mais prováveis ​​que podem aparecer em resposta a cada estímulo.”

Noyb argumenta que isso significa que, apesar de a empresa possuir extensos conjuntos de dados disponíveis para treinar seu modelo, ela ainda não pode garantir que as respostas fornecidas aos usuários sejam factualmente corretas.

O advogado de proteção de dados de Noyb, Maartje de Gaaf, disse:

“Inventar informações falsas já é bastantematic por si só. Mas quando se trata de informações falsas sobre indivíduos, as consequências podem ser graves.”

Fonte: Noyb.

Ele também afirmou que qualquer tecnologia deve seguir as leis e não pode ser burlada, pois, segundo ele, se uma ferramenta não consegue produzir resultados corretos sobre os indivíduos, então não pode ser usada para esse fim. Acrescentou ainda que as empresas ainda não possuem a capacidade técnica necessária para criar chatbots que estejam em conformidade com as leis da UE sobre o assunto.

As ferramentas de IA generativa estão sob o rigoroso escrutínio dos reguladores de privacidade europeus, visto que, em 2023, a Autoridade Italiana de Proteção de Dados restringiu temporariamente a proteção de dados. Ainda não está claro quais serão os resultados, mas, segundo Noyb, a OpenAI nem sequer finge que irá cumprir a legislação da UE.