El primer ministro australiano critica a X por usar Grok para generar contenido ofensivo

El primer ministro australiano, Anthony Albanese, criticó duramente a la plataforma de blogs X por el uso de Grok para generar imágenes inapropiadas. Albanese expresó su indignación ante la preocupación por el uso del chatbot de inteligencia artificial Grok para generar contenido sexual explotador.

Si bien el número de denuncias recibidas por la Oficina de Seguridad en Línea de Australia sigue siendo bajo, se observa un aumento reciente en las denuncias dedentrelacionados con el uso del chatbot para crear imágenes sexualizadas o de explotación. En su comunicado, el organismo de control advirtió que ejercería sus facultades, incluyendo notificaciones de retirada, cuando los materiales generados con el chatbot cumplan con el umbral defien la Ley Australiana de Seguridad en Línea.

Según la Oficina de Seguridad en Internet, la plataforma, su chatbot y una amplia gama de otros servicios también están sujetos a las obligaciones de seguridad para detectar y eliminar material de explotación sexual infantil y otros materiales ilícitos, como parte del código y los estándares líderes a nivel mundial de la industria australiana. El primer ministro australiano manifestó su descontento el sábado, sumándose a otros líderes, incluido su homólogo británico Keir Starmer, en las críticas a la plataforma de redes sociales.

El primer ministro australiano critica a X por el mal uso de Grok

«El uso de la IA generativa para explotar o sexualizar a las personas sin su consentimiento es abominable», declaró a los periodistas en Canberra. «El hecho de que esta herramienta se utilizara para que la gente usara su función de creación de imágenes a través de Grok es, en mi opinión, completamente abominable», añadió que el incidentedent otro ejemplo de la falta de responsabilidad social de las redes sociales, y recalcó que los australianos y la población mundial merecen algo mejor.

Sus críticas no son descabelladas y forman parte de la reacción global contra el chatbot Grok esta semana, que ha llevado a X a limitar el uso de su IA para crear o editar imágenes, restringiendo la herramienta a los suscriptores de pago. El viernes, Grok rechazó la solicitud de usuarios no suscritos que solicitaban imágenes alteradas digitalmente. "La generación y edición de imágenes está actualmente limitada a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones", declaró el chatbot.

En el comunicado emitido por un portavoz de la Oficina de Seguridad Electrónica, la mayoría de las quejas recibidas se relacionaban con la alteración de imágenes de adultos, mientras que un pequeño porcentaje se refería a material potencialmente susceptible de explotación sexual infantil. "Los informes de abuso basado en imágenes se recibieron muy recientemente y aún se están evaluando", declaró la agencia. "En cuanto a los informes de contenido ilegal y restringido, el material no cumplía con los requisitos de clasificación de material de explotación sexual infantil de clase 1"

Como resultado, la Oficina de Seguridad Electrónica declaró que se negaba a emitir avisos de retirada o a tomar medidas coercitivas en relación con dichas quejas. Sin embargo, el portavoz mencionó que persiste la preocupación por el aumento del uso de IA para la explotación infantil. «Esto pone de relieve la importancia de la seguridad desde el diseño, incluida la necesidad de que los productos de IA generativa cuenten con las salvaguardias y medidas de seguridad adecuadas en cada etapa de su ciclo de vida, para evitar el uso indebido y la instrumentalización de estas tecnologías antes de que se produzcan daños», declaró.

Indonesia prohíbe temporalmente a Grok por deepfake

Por otro lado, Indonesia ha tomado decisivas contra el chatbot Grok. El Ministerio de Comunicación y Asuntos Digitales anunció la medida el sábado, argumentando la urgente necesidad de proteger a niños y mujeres de los daños del contenido explícito generado por IA. «El gobierno considera que las falsificaciones sexuales no consensuales constituyen una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital», declaró el ministro Meutya Hafid en un comunicado oficial.

Afirmó que el uso indebido de la IA para crear pornografía falsa constituye una forma de violencia digital. Mientras tanto, Indonesia exige que las plataformas digitales del país demuestren que cuentan con medidas de seguridad para prevenir la generación y distribución de contenido prohibido. Como parte de esta medida, el Ministerio ha citado a X (anteriormente Twitter). La empresa ofrecerá aclaraciones, explicando las medidas adoptadas para frenar la propagación de esta amenaza.