UE abre investigação sobre o Grok de Musk após 3 milhões de imagens deepfake em dias

A Comissão Europeia abriu procedimentos formais contra a plataforma de mídia social X de Elon Musk após seu chatbot de inteligência artificial Grok ser encontrado produzindo imagens sexuais de pessoas reais sem sua permissão, incluindo fotos de crianças.

Usuários do X têm criado versões alteradas por IA de fotografias reais, pedindo ao Grok para gerá-las. Um estudo divulgado na semana passada pelo Centre for Countering Digital Hate encontrou que o Grok produziu cerca de três milhões de imagens deepfake de mulheres e crianças em apenas alguns dias.

A controvérsia levou a pedidos de investigações em vários países. Na Irlanda, vários ministros do governo fecharam suas contas no X em resposta.

Regina Doherty, membro do Parlamento Europeu pelo Fine Gael, confirmou a medida da Comissão contra a empresa em uma declaração divulgada nesta manhã. Ela disse que apoiou a decisão de iniciar uma investigação formal.

“Quando surgem relatórios credíveis de que sistemas de IA estão sendo usados de maneiras que prejudicam mulheres e crianças, é essencial que a legislação da UE seja examinada e aplicada sem demora”, disse Doherty.

Ela acrescentou que o caso levanta sérias preocupações sobre se as plataformas estão cumprindo suas responsabilidades legais de verificar riscos e impedir a propagação de material ilegal e prejudicial.

Doherty enfatizou que a investigação precisa resultar em consequências reais.

“Nenhuma empresa que opere na UE está acima da lei”, afirmou ela.

Ela também destacou que a situação revela problemas maiores na forma como a nova tecnologia de IA está sendo regulamentada e monitorada, pedindo que mais medidas sejam tomadas no nível da UE.

“Este caso sublinha por que o AI Act deve permanecer como uma legislação viva. Se lacunas na aplicação ou na supervisão se tornarem evidentes, então é nossa responsabilidade abordá-las. As leis da UE devem ser aplicáveis em tempo real quando ocorrem danos graves”, disse Doherty.

Investigação adiada devido à crise da Gronelândia

According to German news source Handelsblatt, the Commission had planned to start the proceedings under the EU’s Digital Services Act last Monday, but the decision was pushed back as the bloc dealt with US President Donald Trump’s threats to take over Greenland.

Esta não é a primeira vez que a X enfrenta problemas com os reguladores da UE. Em dezembro de 2025, a plataforma recebeu uma multa de €120 milhões da UE por violar o Digital Services Act. As violações incluíram marcações de verificação azuis enganosas, falta de transparência sobre publicidade e impedimento de acesso dos pesquisadores à plataforma.

Funcionários da administração Trump usaram palavras fortes sobre essa multa. O Secretário de Estado Marco Rubio e o Vice-Presidente JD Vance criticaram-na fortemente, chamando-a de um ataque às plataformas tecnológicas americanas.

Foco na avaliação de riscos e moderação de conteúdo

A investigação mais recente concentra-se especificamente em saber se a X avaliou adequadamente os riscos do seu chatbot de IA e tomou medidas suficientes para prevenir a criação e disseminação de conteúdo prejudicial. O Digital Services Act exige que as grandes plataformas online identifiquem e abordem os riscos relacionados a conteúdo ilegal e danos aos utilizadores.

A produção rápida de um grande volume de imagens inadequadas num período de tempo tão curto levantou alarmes entre defensores da segurança digital e legisladores.

A situação tornou-se um caso de teste para a forma como os regulamentos da UE lidarão com as tecnologias emergentes de IA. Embora o AI Act tenha sido aprovado para governar sistemas de inteligência artificial, este caso está a ser processado ao abrigo do Digital Services Act, que abrange as responsabilidades das plataformas online.

A investigação pode levar a multas adicionais ou a requisitos para que a X altere a forma como o Grok opera. A Comissão tem o poder de impor penalidades de até seis por cento da receita anual global de uma empresa por violações graves do Digital Services Act.

A X ainda não comentou publicamente sobre a nova investigação. A forma como a empresa lida com a situação será acompanhada de perto à medida que outros países consideram suas próprias respostas regulatórias. Várias nações já exigiram ação urgente para abordar a capacidade do chatbot de criar imagens inadequadas.