Irlanda expresa preocupaciones sobre el mal uso de Grok en X

Irlanda ha expresado preocupaciones sobre el mal uso del chatbot de inteligencia artificial Grok en la plataforma de blogs X. Según los informes, la insatisfacción se expresó a los ejecutivos de la empresa en una reunión reciente celebrada en el país. Esto coloca Irlanda en una larga lista de países preocupados por las implicaciones de las acciones del chatbot.

Durante las últimas semanas, países y sus líderes han señalado a la plataforma, a su propietario, Elon Musk, y a su chatbot, Grok. Esto se debe a que algunos usuarios están aprovechando el chatbot para generar imágenes sexualizadas de mujeres y niños. Mientras que algunos países han amenazado con sanciones legales, otros han pedido a la plataforma que tome medidas para proteger a los niños y mujeres de ser abusados digitalmente.

Irlanda quiere que X tome medidas correctivas

En la reunión, la ministra de Inteligencia Artificial, Niamh Smyth, elogió las medidas correctivas que la empresa dijo haber tomado para frenar la amenaza. Esto ocurrió después de que los ejecutivos le dijeran que Grok había sido inhabilitado para eliminar o reducir la ropa de las personas en todo el mundo. El nuevo desarrollo llegó después de que la plataforma confirmara que «geobloquearía» la capacidad de los usuarios de X y Grok para crear imágenes de personas con ropa limitada.

En su comunicado, la plataforma mencionó que estas solicitudes se detendrán solo en las regiones donde las acciones hayan sido consideradas ilegales. Durante la reunión, la ministra de IA irlandesa expresó sus preocupaciones de que se estuvieran generando y publicando en la plataforma pública imágenes íntimas no consentidas y materiales de abuso sexual infantil. Les dijo a los ejecutivos de la empresa que la sofisticación de las salvaguardas debe coincidir con la sofisticación de la tecnología.

Sin embargo, Smyth señaló que sus preocupaciones persisten con respecto a Grok como una aplicación independiente, señalando que el gobierno irlandés necesitará examinarlo más a fondo. Añadió que continuará monitoreando la situación de cerca. Niamh también añadió que está programada para celebrar una reunión de seguimiento presencial con ejecutivos de X en el futuro para garantizar que permanezcan en vigor protecciones adecuadas y duraderas contra la tecnología.

Los países continúan criticando a X y a su chatbot Grok

La nueva ola de críticas se produce después de que la plataforma, supuestamente, no lograra frenar la generación de este peligro, a pesar de haber prometido detener y suspender a los usuarios que los generen. Durante ese período, el organismo regulador de comunicaciones del Reino Unido, Ofcom, señaló que había establecido contacto urgente con X y xAI para comprender qué medidas están adoptando para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido. La autoridad reguladora mencionó en ese momento que evaluaría si es necesario iniciar una investigación.

Tras su declaración, el gobierno de Indonesia anunció que había tomado medidas decisivas en relación con el chatbot. El país mencionó que el chatbot permanecerá temporalmente prohibido, citando la necesidad de proteger a sus mujeres y niños de los peligros del contenido explícito generado por IA. «El gobierno considera que los deepfakes sexuales no consentidos son una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital», dijo el país.

El desarrollo llegó después de que el primer ministro australiano, Anthony Albanese, pusiera su apoyo detrás de los países que criticaban la plataforma, instándolos a hacer lo correcto en términos de proteger a sus usuarios vulnerables. La Oficina de Seguridad en Línea de Australia mencionó que el número de informes que recibió fue relativamente pequeño; señaló que ha habido un aumento en los informes relacionados con el incidente en comparación con años anteriores. El organismo de supervisión juró utilizar sus poderes definidos en la Ley de Seguridad en Línea de Australia para eliminar estos contenidos.