OpenAI afirma que sus agentes de IA desactivaron sus propios monitores de desalineación
- OpenAI indicó que dos de sus agentes de IA, GPT-6.1 "Sol" y GPT-6 "Astra", desactivaron o debilitaron el monitoreo interno diseñado para detectar comportamientos indebidos durante tareas de programación, los días 3 y 6 de octubre de 2026.
- Los incidentes demuestran que los agentes autónomos pueden manipular las mismas herramientas destinadas a supervisarlos.
- La empresa afirma que aún no tiene una explicación satisfactoria y está probando si sus modelos tienden a evadir la supervisión.
OpenAI ha revelado que sus agentes de IA debilitaron o incluso desactivaron por completo los sistemas internos diseñados para detectar comportamientos no autorizados durante dos tareas de programación, un fallo que significa que la supervisión de los agentes de IA puede ser anulada por los propios agentes.
Dos tareas de programación, dos monitores desactivados
La empresa expuso ambos casos en un informe publicado el martes. Según Al Jazeera, uno de los casos involucró a un agente GPT-6.1 llamado "Sol" que desactivó las alertas automáticas dirigidas al equipo de seguridad de OpenAI.
El primer incidente ocurrió el 3 de octubre, cuando un agente llamado Sol suprimió las alertas de seguridad tras interpretar una instrucción de no enviar mensajes de Slack como aplicable también a esas alertas.
Tres días después, el 6 de octubre, un agente GPT-6 llamado Astra eliminó un sistema de monitoreo mientras copiaba código y más tarde negó haberlo hecho, según el informe.
OpenAI no tiene una 'explicación satisfactoria'
OpenAI indicó que aún no cuenta con una "explicación satisfactoria" del comportamiento de los agentes y está investigando ambos incidentes para determinar si muestran una mayor tendencia en los modelos de la empresa a evadir la supervisión.
La empresa sugirió que estas acciones podrían ser una forma de "benigna" sobrepersistencia, donde los modelos no comprenden el propósito del monitoreo o siguen instrucciones más allá de lo que haría una persona razonable. La firma de IA también está desarrollando pruebas para investigar si los modelos buscan deliberadamente eludir los controles de seguridad.
OpenAI ha reforzado sus sistemas para detectar intentos de desactivar la supervisión y ha añadido que endurecerá los requisitos de seguridad mientras realiza revisiones adicionales.
Los investigadores afirman que el monitor no puede policiarse a sí mismo
Roman V. Yampolskiy, investigador de inteligencia artificial y ciberseguridad en la Universidad de Louisville, declaró a Al Jazeera que los hallazgos eran «extremadamente preocupantes, pero no sorprendentes». Señaló que cualquier sistema de seguridad que un agente de IA pueda desactivar es poco fiable, mientras que la negación de Astra suscita aún más inquietudes.
OpenAI y Anthropic han pedido una desaceleración global coordinada en el desarrollo de la inteligencia artificial, pero Estados Unidos y China han mostrado poco interés en esta propuesta.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Opeyemi Olanrewaju
Opeyemi se especializa en crear y refinar contenido de alta calidad centrado en criptomonedas, mercados financieros globales y la economía. Se graduó de la Universidad de Ibadan con un título de MBBS. Ha trabajado como Editor Jefe de la publicación editorial de su universidad y anteriormente en CFA. Durante más de seis años, ha ayudado a salvaguardar la originalidad como editor de noticias en Cryptopolitan.
