A Comissão Irlandesa de Proteção de Dados ficou surpresa com o uso de dados de usuários pela empresa X para treinamento de IA

O X, anteriormente conhecido como Twitter, está sendo investigado pela principal autoridade supervisora ​​europeia devido ao suposto uso de conteúdo de usuários para treinar o chatbot de IA chamado Grok. A Comissão Irlandesa de Proteção de Dados (DPC) expressou surpresa com as ações do X, que aparentemente ocorreram sem notificar ou consultar os usuários. 

Atualmente, os usuários do X Premium podem usar o Grok, um chatbot novo e aprimorado que melhora a busca com a ajuda de um modelo de linguagem complexo. Inicialmente, o Grok era baseado em dados abertos, mas o X expandiu seu escopo para conteúdo criado pelo usuário. 

Usuários debatem preocupações com a privacidade e opções de desativação

No entanto, o novo sistema está ativado por padrão no X, embora os usuários possam desativá-lo nas configurações do aplicativo web. Quando ativo, essa configuração permite o uso das postagens e interações dos usuários com o Grok para treinamento. As informações coletadas também podem ser encaminhadas para a empresa parceira do X, a xAI. 

A sede europeia da X em Dublin posiciona a DPC como uma autoridade reguladora fundamental. A DPC está em contato com a X sobre essa questão há vários meses, sendo que a última interação ocorreu um dia antes do comunicado de imprensa da X, segundo o Financial Times. A DPC ressaltou que ficou surpresa com o momento da decisão da X e mencionou a questão do controle de dados do usuário. 

“Estamos em diálogo com X sobre este assunto há um tempo considerável. Os desdobramentos recentes foraminesperados, considerando nossas últimas interações.”

porta-voz do DPC

A forma como a X coletou dados de usuários para o Grok tem sido motivo de preocupação. Kevin Schawinski, CEO de uma empresa suíça de IA, criticou a prática, afirmando que ela é "RUIM" devido ao fato de a X não ser muito transparente sobre como utiliza os dados dos usuários. 

A coleta de dados para treinamento de IA desafia as plataformas de mídia social

A data exata em que a X começou a coletar informações também é desconhecida. A empresa lançou o Grok em novembro de 2023 e, na época, afirmou que o chatbot não havia sido treinado com dados da X. No entanto, o lançamento de uma nova versão em março de 2024 chamou a atenção para os dados de treinamento.

No entanto, o X não é a única plataforma de mídia social que precisa lidar com a questão da regulamentação da privacidade de dados. Práticas semelhantes adotadas por plataformas como Meta, TikTok e Reddit têm sido alvo de escrutínio na Europa devido à rigorosa aplicação do Regulamento Geral de Proteção de Dados (RGPD). 

O plano da Meta de coletar publicações e imagens de usuários europeus para treinar IA enfrentou forte reação negativa, o que levou à suspensão do processo devido a preocupações com o GDPR. O Google também teve problemas semelhantes quando lançou sua IA generativa, sendo necessário obter permissão da autoridade irlandesa de proteção de dados para seu uso. Atualmente, a X está lidando com diversos processos perante a Comissão Irlandesa de Proteção de Dados.