Espanha inicia ação legal contra X, Meta e TikTok por riscos de abuso de IA

A Espanha iniciou ação legal contra a X, a Meta e a TikTok por alegações de que os seus modelos de IA ajudaram a criar e a difundir material de abuso sexual infantil.

O Primeiro-Ministro espanhol Pedro Sánchez disse na terça-feira que o gabinete invocará o Artigo 8 do Estatuto Orgânico do Ministério Público. Escreveu:

“Hoje, o Conselho de Ministros invocará o Artigo 8 do Estatuto Orgânico do Ministério Público para solicitar que investigue os crimes que a X, a Meta e a TikTok possam estar a cometer através da criação e disseminação de pornografia infantil por meio das suas IAs.”

Pedro acrescentou que: “Estas plataformas estão a atacar a saúde mental, a dignidade e os direitos dos nossos filhos e filhas. O Estado não pode permitir isso. A impunidade dos gigantes deve terminar.”

Duas semanas antes deste pedido legal, Pedro partilhou novos planos para combater o abuso online na Espanha, jurando que bloquearia o acesso às redes sociais a qualquer pessoa com menos de 16 anos.

Em novembro, Pedro disse que o parlamento espanhol investigaria a Meta por possíveis violações de privacidade que afetam utilizadores do Facebook e Instagram.

Dados da Internet Watch Foundation, com sede no Reino Unido, mostram quão rápido o problema está a crescer. No ano passado, sinalizou 3.440 vídeos de abuso sexual infantil gerados por IA. No ano anterior, reportou apenas 13.

A Europa continua a apertar a aplicação da lei contra as grandes empresas de tecnologia

A ação da Espanha soma-se à tensão crescente entre os governos europeus e as grandes empresas de tecnologia americanas. Essas empresas contam com o apoio da administração de Donald Trump, o 47.º Presidente dos Estados Unidos, eleito em 2024 e em exercício em 2026.

Os líderes europeus argumentam que as plataformas devem proteger os utilizadores. Os políticos e executivos de tecnologia dos EUA argumentam que uma regulação rigorosa corre o risco de limitar a liberdade de expressão. O desacordo está agora a ser disputado nos tribunais e nas agências reguladoras.

Em dezembro, a União Europeia multou a X em 120 milhões de euros, cerca de 140 milhões de dólares, ao abrigo do Regulamento de Serviços Digitais. Foi a primeira penalidade emitida ao abrigo dessa lei. Este mês, a polícia francesa fez buscas nas instalações locais da X como parte de uma investigação de cibercrime sobre a disseminação de pornografia infantil e a negação do Holocausto na plataforma.

A Comissão de Proteção de Dados da Irlanda também agora interveio. O regulador, que aplica o Regulamento Geral sobre a Proteção de Dados da União Europeia, disse no final da segunda-feira que abriu uma investigação formal sobre a criação e publicação do que chamou de imagens sexualizadas “potencialmente prejudiciais” feitas pelo Grok.

A preocupação é que estas imagens possam ter envolvido o processamento de dados pessoais pertencentes a utilizadores na UE.

O Grok está integrado diretamente no feed de redes sociais da X. Foi desenvolvido pela empresa de IA da Elon Musk, a xAI, que comprou a X no ano passado. No início deste mês, a xAI fundiu-se com a empresa de foguetões de Musk, a SpaceX. O acordo criou um grupo combinado avaliado em 1,5 triliões de dólares.

A investigação irlandesa é a mais recente ação tomada por reguladores em todo o mundo contra a X. No início de janeiro, milhares de imagens deepfake sexualizadas de mulheres foram geradas usando o Grok. As imagens espalharam-se rapidamente online. A reação foi imediata. Utilizadores, especialistas em segurança online e políticos reagiram fortemente.

Graham Doyle, o vice-comissário do regulador irlandês, disse que a agência já estava em contacto com a X após os primeiros relatos na imprensa terem surgido há semanas. Disse que esses relatos reclamavam que os utilizadores podiam solicitar à conta @Grok na X para gerar imagens sexualizadas de pessoas reais, incluindo crianças.