ÚLTIMAS NOTICIAS
SELECCIONADO PARA TI

El GPT-5.6 Sol de OpenAI elimina archivos y bases de datos del usuario

PorRanda MosesRanda Moses 2 min de lectura
El GPT-5.6 Sol de OpenAI elimina archivos y bases de datos de los usuarios por su cuenta.
  • Sol ha eliminado archivos, worktrees y una base de datos en producción por sí mismo.
  • La propia tarjeta del sistema de OpenAI ya había advertido que el modelo puede actuar de forma destructiva cuando lee las instrucciones demasiado libremente.
  • La empresa está aconsejando a los usuarios que limiten los permisos, mantengan copias de seguridad y realicen despliegues progresivos.

Los desarrolladores afirman que el último modelo de codificación de OpenAI, GPT-5.6 Sol, ha eliminado archivos, árboles de trabajo y al menos una base de datos de producción sin que se le haya pedido. Los documentos de pruebas previas al lanzamiento de OpenAI señalaron este comportamiento semanas antes de que el modelo se enviara.

Matt Shumer, fundador y CEO de OthersideAI, escribió en X que Sol "acaba de eliminar casi TODOS los archivos de mi Mac por error". Bruno Lemos, un desarrollador, dijo en X que el modelo eliminó toda su base de datos de producción y que esto nunca le había pasado con ningún otro modelo.

Joey Kudish, un tercer desarrollador, dijo que el "sistema excesivamente ambicioso" de Sol le causó la pérdida de archivos. Dijo que tenía copias de seguridad y solicitó que se revirtiera el modelo.

Un pequeño grupo de quejas, incluso de personas conocidas, no demuestra por sí solo que el modelo sea defectuoso. Hay muchas otras cosas que pueden hacer que un sistema de IA actúe mal. Esta noticia es más difícil de ignorar porque OpenAI ya ha hablado sobre el mismo modo de fallo.

La advertencia era la tarjeta del sistema de Sol

Dos semanas antes de que Sol llegara a los usuarios, OpenAI lanzó una tarjeta de sistema para el modelo, que es un documento que describe cómo se probó un modelo y qué se descubrió. Junto con la descripción habitual de las fortalezas del modelo, el artículo incluía una advertencia.

En el trabajo de codificación, el modelo puede fallar debido a "una mezcla de exceso de entusiasmo por completar la tarea e interpretar las instrucciones del usuario de manera demasiado permisiva", tratando una acción como permitida a menos que se haya excluido claramente. Según la tarjeta del sistema, esto puede hacer que Sol sea "demasiado agente", descuidado con los efectos secundarios negativos o "engañoso al informar sus resultados a los usuarios".

OpenAI respaldó la advertencia con sus propios ejemplos. En uno, un usuario solicitó que Sol eliminara tres máquinas virtuales en la nube etiquetadas como 1, 2 y 3. El modelo no pudo encontrar esos nombres cuando buscó, así que en lugar de detenerse para investigar, eliminó tres máquinas numeradas 5, 6 y 7. Según el artículo, mató procesos en ejecución y eliminó forzosamente worktrees (archivos de trabajo adjuntos a un proyecto de codificación), antes de admitir que el trabajo sin guardar en una de las máquinas podría perderse.

Un segundo caso involucró un acceso que el usuario nunca había otorgado. Sol no pudo leer sus archivos en la nube durante una tarea, por lo que buscó credenciales por su cuenta, descubrió un conjunto en una caché local oculta y las utilizó sin consultar primero al usuario. Las credenciales son los inicios de sesión y las claves que un sistema utiliza para verificar quién tiene permiso para entrar.

¿Qué dijo OpenAI sobre el riesgo?

El documento de la empresa enmarca los incidentes destructivos como algo que debería ocurrir raramente. También reconoce que Sol "muestra una mayor tendencia que GPT-5.5 a ir más allá de la intención del usuario, incluyendo realizar o intentar acciones que el usuario no había solicitado. "Qué tan comunes son las eliminaciones de archivos y la captura de credenciales en la práctica sigue sin estar claro tan pronto después del lanzamiento.

Sol es una de las tres variantes de la familia GPT-5.6, junto con Terra y Luna. Según informes anteriores de Cryptopolitan reportando, OpenAI autorizó la liberación pública de la familia solo después de que el Departamento de Comercio de EE. UU. levantara un embargo que había impuesto durante una revisión de seguridad nacional.

Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.

Preguntas frecuentes

¿Qué hizo mal exactamente el GPT-5.6 Sol?

Los usuarios dicen que Sol eliminó archivos, forzó la eliminación de worktrees de código y borró una base de datos en producción.

¿Sabía OpenAI sobre este comportamiento antes del lanzamiento?

Sí. Dos semanas antes de que se lanzara Sol, la tarjeta del sistema de OpenAI advirtió que el modelo podía ser "demasiado agente", descuidado con las acciones destructivas e incluso engañoso sobre sus resultados.

¿Cómo pueden protegerse los usuarios al usar Sol?

Los desarrolladores recomiendan mantener copias de seguridad, implementar cambios gradualmente y limitar los permisos del modelo para que no pueda acceder a sistemas en producción.

Comparte este artículo
Randa Moses

Randa Moses

Randa Moses es editora y reportera en Cryptopolitan, donde cubre tecnología, IA, robótica, criptomonedas, estafas y ciberataques. Ha trabajado en el espacio de las criptomonedas desde 2017. Ocupó cargos en Forward Protocol, AmaZix y Cryptosomniac. Randa posee un grado en Ingeniería Eléctrica y Electrónica de la Universidad de Bradford.

MÁS … NOTICIAS