ChatGPT recebe queixa de privacidade por alucinações difamatórias

O chatbot da OpenAI, ChatGPT, está sob investigação na Europa devido a queixas de privacidade. Tem demonstrado uma tendência para alucinar informações falsas. Perigoso, não? Esta pode ser difícil de ignorar para os reguladores.

Uma pessoa na Noruega está recebendo ajuda do Centro Europeu de Direitos Digitais, Noyb, após descobrir que o ChatGPT retornava informações falsas. O chatbot disse que ele havia sido considerado culpado de matar dois dos seus filhos e tentar matar um terceiro. Esta informação pode vir a prejudicá-lo mais tarde.

A parte louca é que a OpenAI não oferece às pessoas uma maneira de corrigir as informações erradas que a IA inventa sobre elas. Em vez disso, a OpenAI oferece bloquear respostas a este tipo de perguntas. A questão principal é se as informações são descartadas ou podem ser geradas mais tarde.

Por outro lado, o Regulamento Geral sobre a Proteção de Dados (RGPD) da União Europeia dá às pessoas acesso aos seus dados e o direito de corrigir os seus dados pessoais. Outra parte desta lei de segurança de dados diz que as pessoas responsáveis pelos dados pessoais devem garantir que estão corretos. Isto torna este caso relevante.

Joakim Söderberg, advogado de proteção de dados da Noyb, afirmou, “O RGPD é claro. Os dados pessoais devem ser precisos. […] Se não forem, os utilizadores têm o direito de os alterar para refletir a verdade.”

Ele acrescentou, “Mostrar aos utilizadores do ChatGPT um pequeno aviso de que o chatbot pode cometer erros claramente não é suficiente. Não se pode simplesmente espalhar informações falsas e, no final, adicionar um pequeno aviso de que tudo o que foi dito pode não ser verdade.”

Detalhes das investigações em curso

O chatbot conta uma história triste sobre Arve Hjalmar Holmen quando perguntado quem ele é. Diz que ele foi considerado culpado de assassinato de crianças e condenado a 21 anos de prisão por matar dois dos seus próprios filhos.

Agora, por que é que isto é ainda mais perigoso? Embora não seja verdade que Hjalmar Holmen seja um assassino de crianças, a Noyb aponta que a resposta do ChatGPT inclui algumas verdades. Por exemplo, a pessoa em questão tem três filhos.

O chatbot também identificou corretamente os géneros dos seus filhos e nomeou corretamente a sua cidade natal. No entanto, o facto de a IA também ter inventado mentiras tão terríveis torna isso ainda mais estranho e perturbador.

Um representante da Noyb disse que não sabia por que razão o chatbot inventou um histórico tão detalhado, mas falso, para esta pessoa. Um porta-voz disse que fizeram pesquisas para garantir que não se tratava apenas de uma confusão com outra pessoa. O porta-voz disse que tinham procurado nos arquivos de jornais, mas não conseguiram encontrar uma razão pela qual a IA inventou o assassinato de crianças.

Neste ponto, a melhor explicação é que os modelos de linguagem de grande escala, como o que alimenta o ChatGPT, basicamente fazem previsão da próxima palavra em grande escala. 

Devido a isto, os conjuntos de dados utilizados para treinar a ferramenta continham muitas histórias de filicídio que afetaram as palavras que escolheu para responder a uma pergunta sobre um homem nomeado. No entanto, independentemente da razão, é claro que este tipo de saídas não é de forma alguma aceitável.

Enquanto isso, a Noyb afirma que o chatbot deixou de contar mentiras perigosas sobre Hjalmar Holmen após a atualização do modelo de IA que o executa. Esta mudança está ligada ao facto de a ferramenta agora pesquisar na internet informações sobre pessoas quando é perguntado quem elas são.

Embora o ChatGPT pareça ter deixado de espalhar mentiras prejudiciais sobre Hjalmar Holmen, tanto a Noyb como Hjalmar Holmen continuam preocupados. E se o modelo de IA tiver mantido informações erradas e prejudiciais sobre ele?

A autoridade norueguesa de proteção de dados recebeu uma queixa contra a OpenAI. A Noyb espera que a autoridade de supervisão decida que tem poder para investigar, já que a queixa é dirigida à filial dos EUA da OpenAI. A queixa afirma que o seu escritório na Irlanda não é o único responsável pelas decisões de produto que afetam os europeus.

O destino da OpenAI

Esta não é a primeira vez para a OpenAI. As pessoas já se queixaram anteriormente da criação de dados pessoais incorretos pelo ChatGPT, como uma data de nascimento errada ou informações biográficas incorretas. 

A autoridade de proteção de dados da Itália interveio cedo ao abrigo do RGPD e suspendeu temporariamente o acesso ao ChatGPT no país na primavera de 2023. Isto levou a OpenAI a fazer alterações, como as informações que fornece aos utilizadores. Depois disso, a autoridade multou a OpenAI em 15 milhões de euros por utilizar dados das pessoas sem uma razão válida para o fazer.

Também é interessante que a autoridade de proteção de dados da Polónia tenha estado a analisar uma queixa de privacidade contra o ChatGPT desde setembro de 2023 e ainda não tenha tomado uma decisão.

Desde então, os responsáveis pela privacidade na Europa tornaram-se mais cautelosos com a GenAI. Isto porque ainda estão a descobrir a melhor forma de aplicar o RGPD a estas ferramentas de IA populares.

No entanto, numa queixa anterior sobre o ChatGPT da Noyb, a Comissão de Proteção de Dados da Irlanda (DPC) disse há dois anos que as pessoas não deveriam apressar-se a proibir ferramentas de GenAI, por exemplo. A DPC é responsável pela aplicação do RGPD. Em vez disso, isto significa que os responsáveis devem dedicar algum tempo a perceber como a lei funciona.

Parece que a nova queixa da Noyb ao ChatGPT tem como objetivo despertar os responsáveis pela privacidade para os perigos das IAs que alucinam. Violações confirmadas do RGPD podem levar a multas de até 4% do volume de negócios anual global.