- O ChatGPT ainda está aquém dos padrões de precisão de dados da UE, segundo um novo relatório.
- A UE afirma que os esforços da OpenAI para colocar o ChatGPT em conformidade são “insuficientes.”
- O compromisso da OpenAI com a segurança dos usuários foi colocado em questão.
O ChatGPT, o chatbot viral da OpenAI, ainda está aquém dos padrões de precisão de dados da União Europeia, de acordo com um novo relatório do órgão de proteção de dados da UE.
Também leia: A Lei de IA da União Europeia Obtém Aprovação Final com Multas Até $38M
O relatório do Comité Europeu de Proteção de Dados (EDPB) não é um documento legal. No entanto, irá informar uma abordagem comum para regular a ChatGPT nos 27 Estados-Membros da UE.
ChatGPT Falha em Cumprir os Padrões de Dados
Os órgãos de vigilância nacionais formaram o ‘grupo de trabalho ChatGPT’ no ano passado, sob o estímulo de casos em curso em vários países europeus contra o modelo de IA. O grupo de trabalho depende do EDPB.
Num relatório publicado em 24 de maio, o grupo de trabalho afirmou:
“Embora as medidas tomadas para cumprir o princípio da transparência sejam benéficas para evitar a má interpretação da saída do ChatGPT, não são suficientes para cumprir o princípio da precisão dos dados.”
Os grandes modelos de linguagem, ou LLMs, são notórios por “alucinar” – jargão tecnológico para quando os chatbots de IA vomitam falsidades, muitas vezes com confiança.
Chatbots como o ChatGPT ou a Gemini do Google são alimentados por LLMs. Sob o rigoroso Regulamento Geral sobre a Proteção de Dados (GDPR) da Europa, os utilizadores podem processar por serem mal representados ou negados a oportunidade de corrigir informações imprecisas sobre si mesmos.
De acordo com o relatório do grupo de trabalho, “Devido à natureza probabilística do sistema (IA), a abordagem de formação atual leva a um modelo que também pode produzir saídas enviesadas ou inventadas.”
“As saídas fornecidas pelo ChatGPT provavelmente serão tomadas como factualmente precisas pelos utilizadores finais, incluindo informações relacionadas com indivíduos, independentemente da sua precisão real”, acrescentou.
UE Reforça o Cumprimento
A OpenAI citou anteriormente a complexidade técnica pela sua falha em corrigir desinformação, mas o órgão de vigilância da União Europeia está a reforçar a posição.
“Em particular, a impossibilidade técnica não pode ser invocada para justificar o incumprimento destes requisitos”, assinalou o grupo de trabalho.
Num caso recém-aberto, uma figura pública austríaca está a processar o ChatGPT por não corrigir a sua data de nascimento. A OpenAI disse que tal não seria tecnicamente viável, mas este novo relatório irá aumentar a pressão sobre o modelo de IA.
Um advogado de proteção de dados ligado ao caso, Maartje de Graaf, disse que as empresas atualmente não conseguem fazer com que os chatbots de IA estejam em conformidade com a lei da UE ao processar dados sobre indivíduos.
“Se um sistema não consegue produzir resultados precisos e transparentes, não pode ser usado para gerar dados sobre indivíduos. A tecnologia deve seguir os requisitos legais, e não o contrário”, afirmou de Graaf.
Preocupações com a segurança pairam sobre a OpenAI
Os especialistas afirmam que o ChatGPT exigirá mudanças ambiciosas para evitar violar o GDPR, que regula a proteção de dados na União Europeia.
As regras também fornecem um modelo de trabalho para leis de dados na Argentina, Brasil, Chile, Japão, Quênia, Maurício, África do Sul, Coreia do Sul, Turquia e Reino Unido.
Também leia: OpenAI Desiste da Voz do ChatGPT Após Controvérsia com Scarlett Johansson
Enquanto isso, o compromisso da OpenAI com a segurança dos utilizadores foi posto em questão.
A empresa foi atingida por uma série de demissões de alto perfil, com a saída do cofundador Ilya Sutskever, Gretchen Krueger, Jan Leike e meia dúzia de outros, criando um caso para uma mudança de cultura.
No início desta semana, a OpenAI anunciou a suspensão da voz ‘Sky’ do ChatGPT após preocupações de que ela se assemelhava à voz da atriz Scarlett Johansson no filme de ficção científica 'Her'.
Reportagem Cryptopolitan por Jeffrey Gogo
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso legal. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Jeffrey Gogo
Jeffrey Gogo é um jornalista com 20 anos de experiência em notícias e análises sobre negócios, finanças e mudanças climáticas. Seu trabalho foi destacado pela Thomson Reuters Foundation, The Zimbabwe Herald e várias publicações online. Ele também escreveu amplamente sobre IA e o metaverso e começou a cobrir os mercados de criptomoedas em 2017. Gogo estudou jornalismo e comunicação social no CCOSA em Harare.
