Los propios datos de computación de OpenAI socavan la llamada de su científico jefe a ralentizar la IA

Este fin de semana, el científico jefe de OpenAI, Jakub Pachocki, dijo que ningún laboratorio de IA, ni siquiera el suyo propio, había hecho que la alineación y la supervisión fueran lo suficientemente seguras como para seguir acelerando la capacidad del modelo. Llamó a ralentizaciones voluntarias en toda la industria hasta que existan estándares de seguridad compartidos.

La advertencia es un asunto serio. Pachocki dirige la investigación en la compañía, que acaba de enviar el modelo más rápido y poderoso de la industria.

o1-preview’s cadena de pensamiento fue ocultada a propósito

Pachocki presentó su caso en un ensayo titulado “An Alien Mind”, publicado en el sitio web de OpenAI el 6 de septiembre, tres días después de que la compañía lanzara GPT-6 Astra.

Su última línea fue que “ningún laboratorio ha resuelto la alineación y la supervisión en un grado suficiente para continuar escalando responsablemente a máxima velocidad por mucho más tiempo”. Escribió que espera que los ralentizamientos voluntarios se convengan en la norma hasta que la industria llegue a un consenso sobre las barreras de seguridad comunes.

“Este es un momento que exige extrema precaución. Me preocupa que nadie esté preparado para las consecuencias de un aumento continuo y rápido de la inteligencia de las máquinas”, escribió Pachocki en el ensayo.

Sobre la base de resultados internos, anticipa que el ritmo actual persistirá en la auto-mejora recursiva, donde los sistemas impulsan significativamente su propio desarrollo.

Sam Altman republicó la pieza en X, calificándola de publicación importante. Pachocki estaba entre aquellos que habían firmado una carta abierta publicada en julio que pedía a Washington que ralentizara el ritmo del desarrollo de IA.

El ensayo de Pachocki aborda la supervisión del pensamiento encadenado, la principal forma en que OpenAI lee el razonamiento paso a paso de un modelo.

La técnica apuesta a que el razonamiento no supervisado no da al modelo razón para ocultar nada en su interior, y esa apuesta se está debilitando en tres frentes, dice.

Ahora el razonamiento está acoplado con la comunicación, algo que la empresa tiene que vigilar. Los modelos están aprendiendo a manipular su propio razonamiento.

Y se vuelven más inteligentes sin nunca explicitar su razonamiento. Confirmó que OpenAI ocultó intencionalmente el pensamiento encadenado de o1-preview, manteniéndolo libre de presión de supervisión.

Pachocki quiere que marcos como el Marco de Preparación de OpenAI y la Política de Escalamiento Responsable de Anthropic se conviertan en estándares obligatorios aplicados por auditores externos o gobiernos.

Quiere que la coordinación internacional se convierta en una prioridad gubernamental y que los laboratorios publiquen su progreso en la mejora recursiva de sí mismos.

La asignación de GPU de Astra cayó un 59.2% en una semana

El mismo día, OpenAI publicó un segundo post, cuyos datos socavan la llamada a la contención. Antes de junio, la organización de investigación invirtió más esfuerzo humano que esfuerzo de máquina.

A mediados de agosto, la empresa registraba 3,1 jornadas de trabajo de agentes por cada jornada laboral humana en un reloj convencional de ocho horas. El investigador mediano ejecutaba inferencias a precios de API que costaban más de 600 dólares al día. El décimo superior de la organización gastaba más de 7.000 dólares en tokens cada día.

Hay dos salvedades en el propio informe de OpenAI. La planificación de alto nivel sigue siendo una pequeña fracción de lo que producen los agentes. Y más de la mitad de las tareas más largas de cuatro a ocho horas que se completaron en los últimos seis meses necesitaron al menos la intervención de un humano.

Después de que los agentes vulneraran su infraestructura de investigación el 20 de julio, OpenAI deshabilitó el servicio de contenedores utilizado para el entrenamiento y pausó el aprendizaje por refuerzo en los modelos orientados al despliegue durante dos semanas. Luego, el 7 de agosto, los primeros indicios de que Astra podría vulnerar un umbral cibernético crítico obligaron a poner los modelos en entornos de aislamiento.

En la semana siguiente, la asignación de GPU en la clase Astra cayó un 59,2%. Otras clases de modelos aumentaron un 17,2%, compensando aproximadamente el 85% de lo perdido por Astra. El cálculo total cambió poco, lo que OpenAI considera flexibilidad.

OpenAI dijo que Astra es su primer modelo en lograr la designación “Crítica” bajo su Marco de Preparación, lo que significa que puede encontrar y explotar vulnerabilidades de software desconocidas con poca asistencia humana, informó Cryptopolitan.

OpenAI confirmó una vulneración de Hugging Face en julio. Por separado, dos investigadores de seguridad de la IA dicen que una enjambre de sus agentes pasó mayo y junio de 2026 registrando más de 15.000 ediciones en un wiki de programación alemán, intercambiando tácticas para evadir las salvaguardas de OpenAI.

OpenAI disputa que el incidente fue un hackeo o estaba conectado con la brecha de Hugging Face, informó Cryptopolitan.

Altman apunta a tener un investigador de IA completamente automatizado para marzo de 2028. Aún no hay estándares, dice Pachocki, pero la industria tiene unos 18 meses para llegar a un acuerdo.