As “Alucinações” da IA Acionam Reclamação de Privacidade

A Noyb, organização independente de proteção de dados da Áustria fundada pelo advogado Max Schrems, apresentou uma reclamação à autoridade de privacidade da UE em relação à OpenAI – uma violação do GDPR e falha em fornecer um recurso para informações incorretas.

Reclamação de privacidade apresentada

Schrems, um advogado de privacidade notável e ativista capaz, iniciou algumas das reclamações de privacidade mais importantes na UE. A OpenAI está enfrentando o DSB (Sociedade Austríaca de Dominância e Discriminação), cujo desafio se concentra nas “alucinações”, as respostas erradas que os modelos de linguagem grande de IA (inteligência artificial) tendem a fornecer. O alívio que a ordem de adjudicação solicita inclui uma investigação da infração, decisão declaratória, penalidade e estudo de medidas corretivas.

A empresa, OpenAI, supostamente está ciente da violação de privacidade, mas isso não importa. De acordo com o release de imprensa, a declaração da Noyb está em uma declaração anunciando a apresentação.

Modelos grandes, incluindo o ChatGPT, fazem cálculos para prever quais palavras fazem mais sentido para certas seleções. Há casos em que o modelo seleciona as palavras erradas devido à sua incapacidade de notar o contexto, dando a resposta errada ou “alucinação”, que é um jargão da indústria.

Isso, no entanto, não está com os direitos individuais nas tradições de “privacidade”, então para a Noyb. A regulamentação europeia não foi longe o suficiente em declarar a necessidade da precisão dos dados pessoais desde 1995, e o GDPR, a lei de privacidade mais recente da UE, assume o dever de proteção precisa de dados pessoais.

Alvo das “alucinações” da IA

Nessa linha, a Noyb apontou que as informações pessoais de qualquer comentarista público sem detalhes de data de nascimento estão disponíveis online. O ChatGPT respondeu erroneamente com sua data principal devido ao erro na pergunta.

A OpenAI também não estava satisfeita com sua resposta não solicitada sobre o acesso e a exclusão dos dados envolvidos na investigação de solicitação realizada em dezembro de 2023. De acordo com o GDPR, os controladores de dados devem comunicar ao sujeito das informações pessoais sobre o processamento de seus dados e excluir os dados do sujeito mediante solicitação, enquanto restrições à exclusão são permitidas.

A Noyb, que atuou como reclamante no caso, descobriu que o serviço fornecia dados estatísticos ao usuário; no entanto, nenhuma informação sobre o uso de dados pelo sistema foi fornecida.

Solicitações de dados mal gerenciadas

Como a OpenAI disse, além de entregar uma mensagem educacional, eles prometeram fazer o melhor para bloquear o modelo de dizer o ano de nascimento em resposta à consulta; no entanto, de acordo com a reclamação, eles não podem corrigir a resposta errada exibida.

Isso, por sua vez, levou a uma parte mais informativa do sujeito dos dados ser bloqueada da ChatGPT. Isso, em seu significado, impediria o direito do público à informação sobre essa pessoa – uma figura conhecida – sobre a qual a OpenAI havia relatado por meio de uma objeção.

A alegação disse: “Nenhuma ação de um chatbot pode corrigir as informações, nenhum filtro pode selecionar seletivamente, ou simplesmente que qualquer sujeito dos dados não pode cumprir com esta situação de acordo com o controlador.”

É a filial irlandesa sozinha, e a sede ainda reside nos EUA, disse a Noyb à chefe de antitruste da UE, Margrethe Vestager. Este réu foi nomeado na ação porque é uma entidade da corporação dos EUA, OpenAI OpCo LLC, que está nos termos e condições da empresa.