A Irlanda manifesta preocupação com o uso indevido do Grok no X

A Irlanda manifestou preocupação com o uso indevido do chatbot de inteligência artificial Grok na plataforma de blogs X. Segundo relatos, a insatisfação foi expressa a executivos da empresa em uma reunião recente realizada no país. Isso coloca a Irlanda em uma longa lista de países preocupados com as implicações das ações do chatbot.

Nas últimas semanas, diversos países e seus líderes criticaram a plataforma, seu proprietário, Elon Musk, e seu chatbot, Grok. Isso porque alguns usuários estão se aproveitando do chatbot para gerar imagens sexualizadas de mulheres e crianças. Enquanto alguns países ameaçaram com sanções legais, outros pediram que a plataforma tome medidas para proteger crianças e mulheres contra abusos digitais.

A Irlanda quer que X tome medidas corretivas

Na reunião, a Ministra da Inteligência Artificial, Niamh Smyth, elogiou as medidas corretivas que a empresa afirmou ter tomado para conter a ameaça. Isso ocorreu depois que os executivos informaram que o Grok havia sido desativado, impedindo que ele removesse ou reduzisse as roupas de indivíduos em todo o mundo. A nova medida veio após a plataforma confirmar que bloquearia geograficamente a capacidade dos usuários do X e do Grok de criar imagens de pessoas com roupas limitadas.

Em seu comunicado, a plataforma mencionou que essas solicitações serão interrompidas apenas em regiões onde as ações forem consideradas ilegais. Durante a reunião, a Ministra da Inteligência Artificial da Irlanda expressou sua preocupação com a geração e publicação de imagens íntimas não consensuais e materiais de abuso sexual infantil na plataforma pública. Ela disse aos executivos da empresa que a sofisticação das medidas de segurança precisa ser equivalente à sofisticação da tecnologia.

No entanto, Smyth observou que suas preocupações em relação ao Grok como um aplicativo independente permanecem, ressaltando que o governo irlandês precisará examiná-lo mais a fundo. Ela acrescentou que continuará monitorando a situação de perto. Niamh também informou que está agendada uma reunião presencial de acompanhamento com executivos da X para garantir que proteções adequadas e duradouras contra a tecnologia permaneçam em vigor.

Países continuam a criticar a X e seu chatbot Grok

As críticas renovadas surgem após a plataforma supostamente não ter conseguido conter a geração desse tipo de conteúdo, apesar de ter prometido suspender e deter os usuários que o gerassem. Na ocasião, a Ofcom, órgão regulador de comunicações do Reino Unido, informou ter entrado em contato urgente com a X e a xAI para entender o que elas estavam fazendo para cumprir suas obrigações legais de proteger os usuários no Reino Unido. O órgão regulador mencionou, então, que avaliaria a necessidade de uma investigação.

Após a declaração, o governo da Indonésia anunciou que tomou medidas decisivas em relação ao chatbot. O país mencionou que o chatbot permanecerá temporariamente banido, alegando a necessidade de proteger suas mulheres e crianças dos perigos do conteúdo explícito gerado por inteligência artificial. "O governo considera os deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", afirmou o país.

A medida foi tomada após o primeiro-ministro australiano, Anthony Albanese, manifestar seu apoio aos países que criticaram a plataforma, instando-os a agir corretamente para proteger seus usuários vulneráveis. O Escritório de Segurança Online da Austrália (eSafety Office of Australia) mencionou que o número de denúncias recebidas foi relativamente pequeno, mas observou um aumento nas denúncias relacionadas ao incidentedent comparação com anos anteriores. O órgão de fiscalização prometeu usar seus poderes, conforme defina Lei Australiana de Segurança Online (Australian Online Safety Act), para remover esses conteúdos.