ChatGPT recebe denúncia de violação de privacidade por alucinações difamatórias

O chatbot ChatGPT, da OpenAI, está sob investigação na Europa devido a reclamações de privacidade. Ele demonstrou uma tendência a disseminar informações falsas. Perigoso, não é? Este caso pode ser difícil de ser ignorado pelos órgãos reguladores.

Um homem na Noruega está recebendo ajuda do Centro Europeu para os Direitos Digitais ( Noyb) após descobrir que o chatbot ChatGPT estava fornecendo informações falsas. O chatbot afirmava que ele havia sido considerado culpado pelo assassinato de dois de seus filhos e pela tentativa de assassinato de um terceiro. Essa informação poderia prejudicá-lo posteriormente.

O mais curioso é que a OpenAI não oferece às pessoas uma maneira de corrigir as informações incorretas que a IA gera sobre elas. Em vez disso, a OpenAI oferece a opção de bloquear respostas para esse tipo de pergunta. A questão principal é se a informação será descartada ou se poderá ser gerada posteriormente.

Por outro lado, o Regulamento Geral de Proteção de Dados (RGPD) da União Europeia garante às pessoas o acesso aos seus dados e o direito à retificação dos seus dados pessoais. Outra disposição desta lei de segurança de dados estipula que os responsáveis ​​pelos dados pessoais devem assegurar a sua exatidão. Isto torna esta questão um caso.

Joakim Söderberg, advogado especializado em proteção de dados da Noyb, afirmou: “O RGPD é claro. Os dados pessoais têm de ser exatos. […] Se não forem, os utilizadores têm o direito de os alterar para refletirem a verdade.”

Ele acrescentou: "Mostrar aos usuários do ChatGPT um pequeno aviso de que o chatbot pode cometer erros claramente não é suficiente. Você não pode simplesmente espalhar informações falsas e, no final, adicionar um pequeno aviso dizendo que tudo o que você disse pode não ser verdade."

Detalhes das investigações em curso

Ao ser questionado sobre quem ele é, o chatbot conta uma história triste sobre Arve Hjalmar Holmen. Diz que ele foi considerado culpado de assassinato de crianças e condenado a 21 anos de prisão por matar dois de seus próprios filhos.

Mas por que isso é ainda mais perigoso? Embora não seja verdade que Hjalmar Holmen seja um assassino de crianças, Noyb destaca que a resposta do ChatGPT contém algumas verdades. Por exemplo, a pessoa em questão tem três filhos.

O chatbot tambémdentcorretamente o sexo dos filhos e o nome da cidade natal dele. No entanto, o fato de a IA ter inventado mentiras tão terríveis torna tudo ainda mais estranho e perturbador.

Um representante da Noyb afirmou que não sabiam por que o chatbot inventou um histórico tão detalhado, porém falso, para essa pessoa. Um porta-voz disse que fizeram uma pesquisa para garantir que não se tratava de uma simples confusão com outra pessoa. O porta-voz acrescentou que consultaram arquivos de jornais, mas não encontraram nenhuma razão para a IA ter inventado o assassinato da criança.

Neste momento, a melhor explicação é que grandes modelos de linguagem, como o que alimenta o ChatGPT, basicamente fazem previsão da próxima palavra em uma escala enorme. 

Por causa disso, os conjuntos de dados usados ​​para treinar a ferramenta continham muitas histórias de filicídio que influenciaram as palavras escolhidas para responder a uma pergunta sobre um homem específico. No entanto, independentemente do motivo, é evidente que esse tipo de resultado é totalmente inaceitável.

Entretanto, Noyb afirma que o chatbot parou de espalhar mentiras perigosas sobre Hjalmar Holmen após a atualização do modelo de IA que o controla. Essa mudança está ligada ao fato de que a ferramenta agora busca informações sobre pessoas na internet quando questionada sobre sua identidade.

Embora o ChatGPT pareça ter parado de espalhar mentiras prejudiciais sobre Hjalmar Holmen, tanto Noyb quanto Hjalmar Holmen ainda estão preocupados. E se o modelo de IA tiver mantido informações erradas e prejudiciais sobre ele?

A autoridade norueguesa de proteção de dados recebeu uma denúncia contra a OpenAI. A Noyb espera que o órgão regulador considere ter competência para investigar o caso, visto que a denúncia é direcionada à filial americana da OpenAI. A denúncia alega que o escritório irlandês não é o único responsável por decisões sobre produtos que afetam os europeus.

O destino da OpenAI

Esta não é a primeira vez que a OpenAI enfrenta esse problema. Anteriormente, houve reclamações sobre a criação de dados pessoais incorretos pelo ChatGPT, como data de nascimento errada ou informações biográficas incorretas. 

A autoridade italiana de proteção de dados interveio logo no início do GDPR e suspendeu temporariamente o acesso do ChatGPT no país na primavera de 2023. Isso levou a OpenAI a fazer alterações, como na forma como fornece informações aos usuários. Posteriormente, a autoridade multou a OpenAI em € 15 milhões por usar dados pessoais sem justificativa válida.

É interessante notar também que a autoridade de proteção de dados da Polônia está investigando uma denúncia de violação de privacidade contra a ChatGPT desde setembro de 2023 e ainda não tomou uma decisão.

Desde então, as autoridades de privacidade na Europa têm se mostrado mais cautelosas com a GenAI. Isso porque ainda estão buscando a melhor forma de aplicar o GDPR a essas ferramentas populares de IA.

No entanto, em uma reclamação anterior sobre o Noyb ChatGPT, a Comissão de Proteção de Dados da Irlanda (DPC) afirmou, há dois anos, que as pessoas não deveriam se precipitar em banir ferramentas de IA genérica, por exemplo. A DPC é responsável pela aplicação do GDPR. Isso significa que as autoridades deveriam dedicar algum tempo para entender como a lei funciona.

Ao que tudo indica, a nova denúncia de Noyb contra o ChatGPT visa alertar as autoridades de privacidade sobre os perigos das IAs que provocam alucinações. Violações confirmadas do GDPR podem resultar em multas de até 4% do faturamento anual global.