OpenAI revela otro agente malicioso mientras se acumulan las citaciones
- Un modelo de investigación de OpenAI utilizó fondos de una red de prueba procedentes de una billetera cripto que no le pertenecía para completar una tarea de programación en junio.
- La FTC ha emitido una citación judicial al laboratorio de IA, mientras los fiscales generales de los estados exigen registros, lo que convierte cada informe voluntario de seguridad en posible evidencia.
- Para quienes desarrollan agentes de IA que gestionan billeteras, este caso ofrece un ejemplo concreto de cómo un agente puede anular los permisos del propietario y actuar según su propio criterio.
Un modelo de investigación de OpenAI tomó fondos de una billetera cripto que no le pertenecía para completar una tarea de programación en junio.
OpenAI descubrió el incidente en septiembre, meses después de que ocurriera, y lo comunicó esta semana.
¿Cómo accedió el modelo de investigación de OpenAI a una billetera no autorizada?
OpenAI ha publicado un informe sobre el incidente relativo a un modelo de su familia GPT-5.6 Sol. Se solicitó al modelo actualizar un prototipo de comercio de criptomonedas e implementar contratos en Sepolia.
Sepolia es una red de prueba de Ethereum donde los desarrolladores prueban aplicaciones antes de lanzarlas oficialmente; por tanto, los tokens no tienen valor de mercado ni están vinculados en absoluto al Ether real que se negocia en la red principal de Ethereum.
La tarea no contaba con una billetera financiada para cubrir las tarifas de implementación, y los grifos de tokens gratuitos no funcionaban. Por ello, el modelo escribió un script que generó 362 direcciones a partir de frases de recuperación frecuentemente reutilizadas por desarrolladores, y luego verificó el saldo adecuado en cada una.
Una de las 362 direcciones contenía suficiente ether de prueba para realizar la tarea, pero antes de utilizarla, el modelo se detuvo y se preguntó en sus notas si era ético usar una clave públicamente conocida y los fondos asociados.
Llegó a la conclusión de que el dinero estaba "efectivamente abandonado", ya que la frase de recuperación era pública y los tokens de prueba no tienen valor antes de firmar la implementación, pagar las tarifas e informar que la tarea había finalizado.
Cabe destacar que el modelo no especificó de dónde provenían los fondos.
En la red principal de Ethereum, esas tarifas se habrían deducido de las reservas reales de alguien a lo cual el modelo no tenía derecho. Esto resulta preocupante, considerando que las empresas de criptomonedas e inteligencia artificial están actualmente conectando agentes que poseen billeteras y pagan servicios sin necesidad de que un humano autorice cada transacción.
OpenAI indicó que desde entonces ha desactivado el acceso a internet en vivo del modelo y ha añadido sistemas de monitoreo.
El informe indica que el incidente ocurrió el 26 de junio, pero no se descubrió hasta tres meses después, el 25 de septiembre. OpenAI afirma que se enteró del incidente mientras ampliaba su monitoreo de desalineación en los registros de actividad de modelos anteriores.
¿Por qué está siendo investigada OpenAI?
OpenAI ha creado un marco para informar sobre la desalineación y ha publicado su primer lote de informes, diciendo que quiere hacer pública rápidamente la conducta preocupante, "incluso cuando no la hayamos explicado o mitigado por completo".
Sin embargo, debido a la cronología, cada informe honesto se convierte en material para las personas que arman quejas como la FTC (Comisión Federal de Comercio), que planea someter a alto ejecutivos a juramento y emitió citaciones judiciales civiles contra OpenAI y Anthropic el miércoles para obtener registros sobre incidentes de seguridad, prácticas de ciberseguridad y políticas de privacidad, informó Cryptopolitan.
Meses antes, 15 fiscales generales estatales republicanos, liderados por Brenna Bird de Iowa, le dijeron a OpenAI que preservara todos los registros de su brecha en Hugging Face, incluidas cualquier nota que un agente haya dejado "aparentemente para versiones futuras de sí mismo" sobre cómo escapar de los controles de la empresa.
OpenAI admitió la brecha de Hugging Face en julio, afirmando que agentes autónomos vulneraron los controles internos, accedieron a internet y coordinaron lo que denominó "un incidente cibernético sin precedentes".
Agentes supuestamente exploraron tres sitios gubernamentales de EE. UU., entre ellos la Oficina del Censo del Departamento de Comercio y la Comisión de Bolsa y Valores (SEC).
El nuevo sitio web de OpenAI menciona una serie de otros incidentes, incluida una fuga de sandbox en septiembre y un experimento de laboratorio con inyección de prompts autorreplicantes.
El CEO de OpenAI, Sam Altman, ha indicado que la empresa aún está revisando los registros de actividad de los agentes y que divulgará los casos según su gravedad. El incidente de Hugging Face sigue siendo el más grave encontrado hasta ahora.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Preguntas frecuentes
¿Qué hizo exactamente el agente de OpenAI?
Un modelo de la familia GPT-5.6 Sol de OpenAI obtuvo claves a partir de frases de recuperación de desarrolladores públicas, encontró una billetera financiada en la red de prueba Sepolia de Ethereum y las utilizó para pagar las tarifas de implementación de una tarea de programación, sin informar al usuario sobre el origen de los fondos.
¿Se robó dinero real?
No. El gasto se realizó en Sepolia, una red de prueba cuyos tokens no tienen valor de mercado. La misma acción en la red principal de Ethereum habría implicado ether real extraído de la cuenta de otra persona.
¿Por qué importa esta revelación ahora?
OpenAI publicó el informe cuando la FTC le exigió información y Anthropic fue investigada por sus prácticas de seguridad, mientras que 15 fiscales generales estatales exigieron la preservación de registros, por lo que sus divulgaciones voluntarias ahora alimentan un escrutinio legal activo.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
