Irlanda expressa preocupações sobre o uso indevido do Grok no X

A Irlanda expressou preocupações sobre o uso indevido do chatbot de inteligência artificial Grok na plataforma de blogs X. De acordo com os relatórios, a insatisfação foi expressa aos executivos da empresa em uma reunião recente realizada no país. Isso coloca Irlanda em uma longa lista de países preocupados com as implicações das ações do chatbot.

Nas últimas semanas, países e seus líderes criticaram a plataforma, seu proprietário, Elon Musk, e seu chatbot, Grok. Isso porque alguns usuários estão agora aproveitando o chatbot para gerar imagens sexualizadas de mulheres e crianças. Enquanto alguns países ameaçaram sanções legais, outros pediram à plataforma que tome medidas para proteger crianças e mulheres de serem abusadas digitalmente.

Irlanda quer que o X tome medidas corretivas

Na reunião, a ministra da Inteligência Artificial, Niamh Smyth, elogiou as medidas corretivas que a empresa disse ter tomado para conter a ameaça. Isso ocorreu após os executivos lhe dizerem que o Grok havia sido desativado para remover ou reduzir roupas em indivíduos em todo o mundo. O novo desenvolvimento veio após a plataforma confirmar que irá “bloquear geograficamente” a capacidade dos usuários do X e do Grok de criar imagens de pessoas com roupas mínimas.

Em seu comunicado, a plataforma mencionou que esses pedidos serão interrompidos apenas nas regiões onde as ações foram consideradas ilegais. Durante a reunião, a ministra da IA da Irlanda expressou suas preocupações de que imagens íntimas não consensuais e materiais de abuso sexual infantil estavam sendo gerados e postados na plataforma pública. Ela disse aos executivos da empresa que a sofisticação das salvaguardas precisa corresponder à sofisticação da tecnologia.

No entanto, Smyth observou que suas preocupações permanecem em relação ao Grok como um aplicativo independente, observando que o governo irlandês precisará examiná-lo mais detalhadamente. Ela acrescentou que continuará monitorando a situação de perto. Niamh também acrescentou que está programada para realizar uma reunião presencial de acompanhamento com executivos do X no futuro para garantir que proteções adequadas e duradouras contra a tecnologia permaneçam em vigor.

Países continuam a criticar o X e seu chatbot Grok

As novas críticas vêm após a plataforma supostamente não conseguir conter a geração da ameaça após se comprometer a interromper e suspender usuários que os geram. Durante o período, o órgão regulador de comunicações do Reino Unido, Ofcom, observou que entrou em contato urgente com o X e o xAI para entender o que estão fazendo para cumprir seus deveres legais de proteger os usuários no Reino Unido. O órgão regulador mencionou na época que avaliaria se uma investigação é necessária.

Após seu comunicado, o governo da Indonésia anunciou que tomou medidas decisivas em relação ao chatbot. O país mencionou que o chatbot permanecerá temporariamente banido, citando a necessidade de proteger suas mulheres e crianças dos perigos do conteúdo explícito gerado por IA. “O governo considera deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse o país.

O desenvolvimento veio após o primeiro-ministro australiano, Anthony Albanese, colocar seu apoio atrás dos países que criticam a plataforma, pedindo que façam o certo em termos de proteger seus usuários vulneráveis. o Escritório de Segurança Digital da Austrália mencionou que o número de relatórios que recebeu era relativamente pequeno; observou que houve um aumento nos relatórios em relação ao incidente em comparação com anos anteriores. O órgão regulador prometeu usar seus poderes definidos na Lei de Segurança Online da Austrália para remover esses conteúdos.