Irlanda expresa su preocupación por el mal uso de Grok en X

Irlanda ha expresado su preocupación por el uso indebido del chatbot de inteligencia artificial Grok en la plataforma de blogs X. Según informes, la insatisfacción se expresó a los ejecutivos de la compañía en una reunión reciente celebrada en el país. Esto coloca a Irlanda en una larga lista de países preocupados por las implicaciones de las acciones del chatbot.

En las últimas semanas, países y sus líderes han criticado duramente a la plataforma, a su propietario, Elon Musk, y a su chatbot, Grok. Esto se debe a que algunos usuarios están aprovechando el chatbot para generar imágenes sexualizadas de mujeres y niños. Si bien algunos países han amenazado con sanciones legales, otros han instado a la plataforma a tomar medidas para proteger a niños y mujeres del abuso digital.

Irlanda quiere que X tome medidas correctivas

En la reunión, la ministra de Inteligencia Artificial, Niamh Smyth, elogió las medidas correctivas que la empresa afirmó haber tomado para frenar este problema. Esto ocurrió después de que los ejecutivos le comunicaran que Grok había sido desactivado para eliminar o reducir la ropa de personas en todo el mundo. Esta novedad surgió luego de que la plataforma confirmara que restringiría geográficamente la capacidad de los usuarios de X y Grok para crear imágenes de personas con poca ropa.

En su comunicado, la plataforma mencionó que estas solicitudes se suspenderán únicamente en las regiones donde se consideren ilegales. Durante la reunión, la ministra irlandesa de IA expresó su preocupación por la generación y publicación en la plataforma pública de imágenes íntimas no consensuadas y materiales de abuso sexual infantil. Explicó a los ejecutivos de la compañía que la sofisticación de las medidas de seguridad debe estar a la altura de la sofisticación de la tecnología.

Sin embargo, Smyth señaló que persisten sus preocupaciones sobre Grok como aplicación independiente, y señaló que el gobierno irlandés deberá examinarla más a fondo. Añadió que seguirá de cerca la situación. Niamh también añadió que tiene previsto celebrar una reunión de seguimiento presencial con ejecutivos de X en el futuro para garantizar que se mantengan las protecciones adecuadas y duraderas contra esta tecnología.

Los países siguen criticando a X y su chatbot Grok

Las nuevas críticas surgen después de que la plataforma supuestamente no frenara la generación de amenazas tras comprometerse a detener y suspender a los usuarios que las generaran. Durante este período, el organismo de control de comunicaciones del Reino Unido, Ofcom, indicó que se había puesto en contacto urgentemente con X y xAI para comprender qué estaban haciendo para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido. El organismo regulador mencionó entonces que evaluaría si era necesaria una investigación.

Tras su declaración, el gobierno de Indonesia anunció que había tomado medidas decisivas respecto al chatbot. El país mencionó que el chatbot permanecerá prohibido temporalmente, alegando la necesidad de proteger a las mujeres y niños de los peligros del contenido explícito generado por IA. "El gobierno considera que los deepfakes sexuales no consentidos constituyen una grave violación de los derechos humanos, la dignidad y la seguridad ciudadana en el espacio digital", declaró el país.

El desarrollo se produjo después de que el primer ministro australiano, Anthony Albanese, respaldara con vehemencia a los países que criticaban la plataforma, instándolos a actuar correctamente para proteger a sus usuarios vulnerables. La Oficina de Seguridad Electrónica de Australia mencionó que el número de denuncias recibidas fue relativamente bajo; señaló que ha habido un aumento en las denuncias relacionadas con el incidentedent comparación con años anteriores. El organismo de control se comprometió a ejercer sus facultades, tal como defien la Ley Australiana de Seguridad en Línea, para eliminar estos contenidos.