Especialistas alertaram sobre imagens racistas e abusivas da Grok AI na plataforma X

Especialistas expressaram preocupação e alertaram sobre as imagens de abuso racista geradas pela inteligência artificial Grok, da X, que inundaram a plataforma em dezembro.

Segundo a Signify — uma organização que trabalha com importantes grupos e clubes esportivos para trace denunciar o ódio online — haverá um aumento nas imagens na internet e na plataforma, principalmente em breve.

Imagens de abuso inundaram o X após a atualização do Grok

Segundo o The Guardian, foram relatadas diversas imagens racistas supostamente criadas pela inteligência artificial Grok após sua atualização, incluindo imagens fotorrealistas racistas de jogadores e técnicos de futebol. Entre as imagens, uma mostra um jogador negro colhendo algodão, enquanto outra retrata um jogador comendo bananas e cercado por macacos.

Outras imagens mostram vários outros jogadores e dirigentes encontrando-se e conversando com figuras históricas controversas como Osama Bin Laden, Adolf Hitler e Saddam Hussein.

A Signify observou com preocupação o aumento repentino de imagens geradas por computador, criadas com a IA Grok, que inundaram a plataforma X. A organização também está preocupada com essa tendência e acredita que mais imagens desse tipo provavelmente serão vistas nas redes sociais, já que a introdução da IA ​​fotorrealista facilitará e aumentará a prevalência desse tipo de conteúdo.

“É um problema agora, mas é apenas o começo de um problema que está por vir. Vai piorar muito e estamos apenas no início; prevejo que nos próximos 12 meses a situação se tornará extremamente grave.”

Significar.

A ferramenta de IA generativa da X foi lançada em 2023 por Elon Musk. Recentemente, ela adicionou um novo recurso de texto para imagem conhecido como Aurora, que cria imagens fotorrealistas com base em comandos simples fornecidos pelos usuários.

Anteriormente, uma versão menos avançada conhecida como Flux também gerou controvérsia no início deste ano, pois foi descoberto que ela fazia coisas que muitos outros softwares semelhantes não faziam, de acordo com o The Guardian. Isso incluía retratar personagens protegidos por direitos autorais e figuras públicas em situações comprometedoras, sob efeito de drogas ou cometendo atos de violência.

X se transformou em uma plataforma para o ódio

Callum Hood, chefe de pesquisa do Centro para o Combate ao Ódio Digital (CCDH), acusou a plataforma X de ser uma plataforma de ódio. Hood afirmou que a X se tornou uma plataforma que incentiva e recompensa a disseminação do ódio por meio do compartilhamento de receita, e que as imagens geradas por IA tornaram isso mais fácil do que nunca.

"O que a X fez, em um grau que nenhuma outra plataforma convencional fez, foi oferecer incentivos cash para que as contas fizessem isso, então as contas na X estão postando deliberadamente o discurso de ódio e a desinformação mais explícitos possíveis."

Capuz.

Especialistas expressaram preocupação com a relativa falta de restrições sobre o que os usuários podem pedir à IA generativa para produzir com tanta facilidade, permitindo que o Grok contorne as diretrizes da IA ​​por meio de "quebra de protocolo"

Um relatório do CCDH mostra que, ao receber diferentes estímulos de ódio, o modelo de IA criou 90% deles, sendo que 30% foram criados espontaneamente. Outros 50% foram criados após o desbloqueio do sistema.

A Premier League admitiu ter conhecimento das imagens dos jogadores de futebol. Afirmou ter designado uma equipe específica para ajudar a identificar e denunciar casos de abuso racista contra atletas, o que, segundo a liga, poderá resultar em medidas legais.

Isso ocorre depois que a administração do futebol revelou ter recebido mais de 1.500 denúncias de abuso em 2024 e que foram introduzidos filtros para os jogadores usarem em suas contas de redes sociais para ajudar a bloquear grande parte do conteúdo abusivo.

“A discriminação não tem lugar no nosso esporte nem na sociedade em geral. Continuamos a instar as empresas de redes sociais e as autoridades competentes a combater o abuso online e a tomar medidas contra os autores desse comportamento inaceitável”, disse um porta-voz da FA.