As "alucinações" da IA ​​geram queixa de privacidade

A Noyb, organização austríaca independentedent proteção de dados fundada pelo advogado Max Schrems, apresentou uma queixa à autoridade de privacidade da UE em relação à OpenAI – alegando violação do RGPD e falha em fornecer uma solução para informações incorretas.

Denúncia de privacidade apresentada

Schrems, um renomado advogado de privacidade e ativista competente, iniciou algumas das mais importantes denúncias de privacidade na UE. A OpenAI está sendo processada pela DSB (Sociedade Austríaca de Dominação e Discriminação), cujo processo se concentra em "alucinações", as respostas errôneas que os grandes modelos de linguagem da IA ​​(inteligência artificial) tendem a fornecer. O pedido de reparação inclui uma investigação da infração, uma decisão declaratória, uma penalidade e o estudo de medidas corretivas.

A empresa OpenAI supostamente tem conhecimento da violação de privacidade, mas isso não importa. De acordo com o comunicado de imprensa, a declaração de Noyb consta em um comunicado anunciando o processo.

Modelos complexos, como o ChatGPT, realizam cálculos para prever as palavras mais adequadas para determinadas opções. Há casos em que o modelo seleciona palavras incorretas por não conseguir perceber o contexto, fornecendo uma resposta errada ou uma "alucinação", termo técnico da área.

Isso, porém, não está em consonância com os direitos individuais nas tradições de "privacidade", pelo menos para Noyb. A regulamentação europeia não avançou muito na afirmação da necessidade de exatidão dos dados pessoais desde 1995, e o GDPR, a mais recente lei de privacidade da UE, assume o dever de proteção precisa dos dados pessoais.

Visando “alucinações” de IA

Nesse sentido, Noyb salientou que as informações pessoais de qualquer comentarista público, exceto a data de nascimento, estão disponíveis online. O ChatGPT respondeu erroneamente com a data principal devido ao equívoco na pergunta.

A OpenAI também não ficou satisfeita com a resposta não solicitada sobre o acesso e a eliminação dos dados envolvidos na investigação da solicitação realizada em dezembro de 2023. De acordo com o GDPR, os controladores de dados devem comunicar ao titular dos dados pessoais sobre o processamento de seus dados e eliminar os dados do titular mediante solicitação, embora sejam permitidas restrições à eliminação.

Noyb, que atuou como reclamante no caso, descobriu que o serviço fornecia dados estatísticos ao usuário; no entanto, nenhuma informação sobre o uso de dados pelo sistema era fornecida.

Solicitações de dados mal gerenciadas

Conforme declarado pela OpenAI, além de transmitir uma mensagem educativa, eles prometeram fazer o possível para impedir que o modelo informasse o ano de nascimento em resposta à consulta; no entanto, de acordo com a reclamação, eles não conseguem corrigir a resposta incorreta exibida.

Isso, por sua vez, levou ao bloqueio de uma parte mais informativa do titular dos dados no ChatGPT. Isso, em outras palavras, prejudicaria o direito do público à informação sobre essa pessoa — uma figura pública — que a OpenAI havia denunciado por meio de uma objeção.

A alegação dizia: "Nenhuma ação de um chatbot pode corrigir as informações, nenhum filtro pode selecionar dados de forma seletiva, ou simplesmente nenhum titular de dados pode cumprir essa situação de acordo com o controlador."

Trata-se apenas da filial irlandesa, sendo a sede ainda localizada nos EUA, afirmou Noyb à chefe antitruste da UE, Margrethe Vestager. Essa ré foi incluída no processo por ser uma entidade da corporação americana OpenAI OpCo LLC, conforme consta nos termos e condições da empresa.