ChatGPT, OpenAI e outros 8 assistentes de IA rastreiam secretamente os dados dos usuários que deveriam permanecer privados

Assistentes de IA integrados em navegadores da web, incluindo o ChatGPT, estão coletando informações pessoais sensíveis de sites que muitas pessoas assumem serem privados, mostra uma nova pesquisa de equipes no Reino Unido e na Itália.

Os pesquisadores examinaram dez navegadores e extensões populares com IA, entre eles o ChatGPT da OpenAI, o Microsoft Copilot e o Merlin AI para o Google Chrome, e os testaram em sites abertos e portais protegidos por senha, como o sistema de registros de saúde de uma universidade.

Sites privados expuseram informações ao ChatGPT e ferramentas semelhantes

Os resultados do estudo foram chocantes. Eles revelaram que nove dos dez ferramentas coletaram e enviaram dados privados, incluindo históricos médicos, detalhes bancários, transcrições acadêmicas, bem como números de segurança social.

A Perplexity AI foi a única ferramenta que não pareceu coletar esses dados.

“Esses assistentes têm um nível de acesso à nossa atividade online que é diferente de tudo o que já vimos”, disse Anna Maria Mandalari, autora sênior do estudo e professora assistente do University College London.

“Eles tornam as coisas mais rápidas e fáceis, mas nossas evidências mostram que, às vezes, isso ocorre às custas da privacidade e, em alguns casos, pode violar a lei.”

Mandalari.

Para realizar os testes, a equipe simulou a navegação cotidiana, compras online, verificação de resultados médicos, login em contas bancárias e, em seguida, fez perguntas de acompanhamento aos assistentes, como: Qual foi o motivo da última visita médica?

Ao interceptar e decodificar os dados que circulam entre o navegador do usuário, os servidores da empresa de IA e os rastreadores de terceiros, os pesquisadores descobriram que alguns assistentes ainda coletavam e transmitiam o conteúdo completo da página de sites supostamente seguros.

Quanto ao Merlin, os pesquisadores descobriram uma mistura de dados sensíveis que incluíam registros de saúde, detalhes bancários, resultados de exames e números de segurança social dos contribuintes.

Os assistentes de IA Peers Sider e TinaMind foram vistos enviando prompts do usuário para o Google Analytics, além de identificar informações essenciais, como endereços IP. Esses dados podem ser usados para publicidade direcionada e rastreamento entre sites.

De acordo com os pesquisadores, outros assistentes, como Copilot e Monica, mantinham silenciosamente registros completos de chat no navegador mesmo após o término das sessões.

Quando acessado por meio de certas integrações de navegador, o ChatGPT da OpenAI perfilava os usuários com base em sua idade percebida, nível de renda, gênero e interesses, adaptando suas respostas de acordo.

“Não há simplesmente nenhuma maneira clara para os usuários saberem para onde essas informações vão depois de serem coletadas”, alertou Mandalari.

Recentemente, o CEO da OpenAI, Sam Altman, alertou os usuários sobre preocupações com a privacidade, dizendo que eles devem ter cuidado ao usar chatbots como o ChatGPT para certos fins, pois eles não possuem algumas salvaguardas de privacidade que um médico ou advogado real, por exemplo, teria.

As ferramentas de IA estariam violando as leis?

A pesquisa foi realizada nos Estados Unidos, mas a equipe concluiu que alguns assistentes de IA provavelmente estavam em violação das leis de privacidade americanas e europeias. Nos EUA, certos casos pareciam violar regras que protegem informações médicas, enquanto na UE, os achados sugeriram possíveis violações do Regulamento Geral sobre a Proteção de Dados (GDPR), que tem limites rigorosos sobre o armazenamento e compartilhamento de dados pessoais.

Mesmo onde as empresas publicam avisos de privacidade, a letra miúda pode ser surpreendente. A política da Merlin na UE e no Reino Unido, por exemplo, lista nomes, detalhes de contato, credenciais de login, registros de transações, informações de pagamento e qualquer entrada digitada como dados que ela pode coletar. Ela afirma que isso pode ser usado para personalização, suporte ao cliente ou conformidade legal.

A Sider faz divulgações semelhantes, acrescentando que os dados do usuário podem ser analisados para “insights” ou para ajudar a desenvolver novos serviços. Ela nomeia Google, Cloudflare e Microsoft como possíveis destinatários de dados, enquanto garante que os parceiros estão vinculados por contratos para proteger as informações pessoais.

Os próprios termos da OpenAI confirmam que os dados dos usuários do Reino Unido e da UE são armazenados fora dessas regiões, embora a empresa diga que os direitos dos usuários não são afetados.

“Esses produtos são apresentados como tornando o uso da web mais rápido e inteligente”, disse ela. “Mas o que acontece nos bastidores é frequentemente um registro detalhado da sua vida privada online.”

Com reguladores endurecendo as regras de proteção de dados e empresas de tecnologia apressando-se para incorporar a IA em todos os cantos da internet, o escrutínio dessas ferramentas provavelmente aumentará.

Por enquanto, os pesquisadores recomendam cautela. Embora a Perplexity AI tenha evitado as armadilhas de privacidade em seus testes, a maioria das outras não. “Se você permitir que uma IA veja tudo o que você faz online”, disse Mandalari, “você deve assumir que, em algum lugar e de alguma forma, essas informações estão sendo armazenadas e, talvez, até compartilhadas.”