El primer ministro de Australia critica a X por usar Grok para generar contenido ofensivo

El primer ministro australiano, Anthony Albanese, ha criticado la plataforma de blogs X por el uso de Grok para generar imágenes inapropiadas. Albanese respaldó su indignación con las preocupaciones sobre el uso del chatbot de inteligencia artificial Grok para permitir contenido sexual explotador.

Aunque el número de informes recibidos por la Oficina de eSafety de Australia sigue siendo pequeño, señala que ha habido un aumento reciente en los informes de incidentes relacionados con el uso del chatbot para crear imágenes sexualizadas o explotadoras. En su declaración, el organismo de vigilancia advirtió que utilizaría sus poderes, incluidas las notificaciones de eliminación, donde los materiales generados con el chatbot cumplen el umbral definido en la Ley de Seguridad en Línea de Australia.

Según la Oficina de eSafety, la plataforma, su chatbot y una amplia gama de otros servicios también están sujetos a las obligaciones de seguridad para detectar y eliminar materiales de explotación sexual infantil y otros materiales ilegales como parte del código y las normas de la industria de Australia, líderes mundiales. El primer ministro australiano hizo conocer su descontento el sábado, uniéndose a otros líderes mundiales , incluido su homólogo británico Keir Starmer, al criticar la plataforma de redes sociales.

El primer ministro australiano critica a X por el mal uso de Grok

“El uso de la IA generativa para explotar o sexualizar a las personas sin su consentimiento es abominable”, les dijo a los periodistas en Canberra. “El hecho de que esta herramienta se utilizara para que las personas usaran su función de creación de imágenes a través de Grok es, creo, simplemente abominable”, Albanese añadió que el incidente es otro ejemplo de que las redes sociales no muestran responsabilidad social, señalando que los australianos y la población mundial merecen algo mejor.

Sus críticas no son exageradas y forman parte de una reacción global contra el chatbot Grok esta semana, lo que ha llevado a X a limitar el uso de su IA para crear o editar imágenes restringiendo la herramienta para suscriptores de pago. El viernes, Grok rechazaba la solicitud de usuarios no suscritos que pedían imágenes alteradas digitalmente. “La generación y edición de imágenes están actualmente limitadas a suscriptores de pago. Puede suscribirse para desbloquear estas funciones”, dijo el chatbot.

En la declaración publicada por un portavoz de la Oficina de eSafety, la mayoría de las quejas recibidas estaban relacionadas con las preocupaciones sobre la alteración de imágenes de adultos, mientras que un pequeño porcentaje de ellas involucraba material potencial de explotación sexual infantil. “Los informes de abuso basado en imágenes se recibieron muy recientemente y aún se están evaluando”, dijo la agencia. “En lo que respecta a los informes de contenido ilegal y restringido, el material no cumplió el umbral de clasificación para el material de explotación sexual infantil de clase 1.”

Como resultado, la Oficina de eSafety dijo que se negó a emitir notificaciones de eliminación o tomar medidas de aplicación con respecto a esas quejas. Sin embargo, el portavoz mencionó que las preocupaciones sobre el aumento del uso de la IA para llevar a cabo la explotación infantil persisten. “Esto destaca la importancia de la Seguridad por Diseño, incluida la necesidad de que los productos de IA generativa tengan salvaguardas y barreras de seguridad apropiadas integradas en cada etapa del ciclo de vida del producto, para prevenir el mal uso y la weaponización de estas tecnologías antes de que ocurra el daño”, dijeron.

Indonesia prohíbe temporalmente Grok por deepfakes

Por otro lado, Indonesia ha tomado medidas decisivas contra el chatbot Grok. El Ministerio de Comunicaciones y Asuntos Digitales anunció la medida el sábado, citando la necesidad urgente de proteger a niños y mujeres de los daños del contenido explícito generado por IA. “El gobierno considera que los deepfakes sexuales no consentidos son una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, dijo la ministra Meutya Hafid en un comunicado oficial.

Ella afirmó que el mal uso de la IA para crear pornografía falsa constituye una forma de violencia basada en lo digital. Mientras tanto, Indonesia quiere que las plataformas digitales del país demuestren que tienen salvaguardas en su lugar para prevenir la generación y distribución de contenido prohibido. Como parte de esta aplicación, el Ministerio ha citado a X (anteriormente Twitter). La empresa proporcionará aclaraciones, explicando las medidas tomadas para frenar la propagación de esta amenaza.