- Uma queixa foi apresentada contra a OpenAI na Áustria por alucinações do ChatGPT, por parte de uma organização defensora dos direitos digitais chamada Noyb.
- O ChatGPT forneceu informações incorretas sobre o aniversário de uma figura pública e recusou-se a apagar ou corrigir os dados.
- O advogado da Noyb afirma que as empresas não podem criar chatbots que cumpram os requisitos da legislação europeia.
Uma organização de privacidade, a Noyb, apresentou uma queixa contra a OpenAI junto à Autoridade Austríaca de Proteção de Dados (DPA) com o fundamento de que seu produto ChatGPT viola muitas leis de proteção de dados da UE. A organização disse que o ChatGPT compartilha informações incorretas sobre pessoas, e o Regulamento Geral de Proteção de Dados (GDPR) da UE exige que as informações sobre as pessoas estejam corretas e que elas tenham acesso total às informações sobre elas.
OpenAI enfrenta acusações de GDPR
A Noyb foi estabelecida pelo famoso advogado e ativista Max Schrems, e alegou que o ChatGPT compartilhou uma data de nascimento falsa sobre uma figura pública famosa e, quando solicitado permissão para acessar e excluir dados relacionados a ele, seu pedido foi negado pela OpenAI.
A Noyb afirma que, de acordo com o GDPR da UE, qualquer informação sobre qualquer indivíduo deve ser precisa e eles devem ter acesso e informações sobre a fonte, mas, de acordo com ela, a OpenAI diz que é incapaz de corrigir as informações em seu modelo ChatGPT. A empresa também é incapaz de dizer de onde as informações vieram e, mesmo assim, não sabe quais dados o ChatGPT armazena sobre os indivíduos.
A Noyb afirma que a OpenAI está ciente do problema e parece não se importar, já que seu argumento sobre a questão é que,
“A precisão factual nos modelos de linguagem de grande escala continua sendo uma área de pesquisa ativa.”
A Noyb observou que informações erradas podem ser toleráveis quando o ChatGPT as produz ao ser usado pelos estudantes em suas tarefas de casa, mas afirmou que é claramente inaceitável para pessoas individuais, pois a lei da UE exige que os dados pessoais sejam precisos.
Alucinações tornam os chatbots não conformes com as regulamentações da UE
A Noyb mencionou que os modelos de IA estão sujeitos a alucinações e geram informações que são realmente falsas. Eles questionaram o procedimento técnico da OpenAI para gerar informações, já que notaram o raciocínio da OpenAI de que,
“respostas às solicitações dos usuários, prevendo as próximas palavras mais prováveis que podem aparecer em resposta a cada prompt.”
A Noyb argumenta que isso significa que, apesar da empresa ter conjuntos de dados extensos disponíveis para treinar seu modelo, ainda assim, não pode garantir que as respostas fornecidas aos usuários sejam factualmente corretas.
Maartje de Gaaf, advogada de proteção de dados da Noyb, disse,
“Criar informações falsas é problemático por si só. Mas quando se trata de informações falsas sobre indivíduos, podem haver consequências graves.”
Fonte: Noyb.
Ele também disse que qualquer tecnologia deve seguir as leis e não pode brincar com elas, pois, segundo ele, se uma ferramenta não pode produzir resultados corretos sobre indivíduos, então não pode ser usada para esse fim; ele também acrescentou que as empresas ainda não são tecnicamente sólidas para criar chatbots que possam cumprir as leis da UE sobre este assunto.
As ferramentas de IA generativa estão sob rigoroso escrutínio dos reguladores de privacidade europeus, já que em 2023, a Autoridade Italiana de Proteção de Dados (DPA) restringiu temporariamente a proteção de dados. Ainda não está claro quais serão os resultados, mas, de acordo com Noyb, a OpenAI nem mesmo finge que cumprirá a lei da UE.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal: As informações fornecidas não constituem aconselhamento de negociação. A Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações disponibilizadas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar qualquer decisão de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
