ÚLTIMAS NOTICIAS
SELECCIONADO PARA TI

El GPT-5.6 Sol de OpenAI elimina archivos de usuario y bases de datos

PorRanda MoisésRanda Moisés
Lectura de 2 minutos
El GPT-5.6 Sol de OpenAI elimina automáticamente los archivos de usuario y las bases de datos.
  • 6 Sol ha eliminado archivos, árboles de trabajo y una base de datos de producción por su cuenta.
  • La propia tarjeta de sistema de OpenAI ya había advertido de que el modelo puede actuar de forma destructiva cuando interpreta las instrucciones con demasiada ligereza.
  • La empresa recomienda a los usuarios que definan los permisos, realicen copias de seguridad y planifiquen las implementaciones por fases.

Según los desarrolladores, el modelo de codificación más reciente de OpenAI, GPT-5.6 Sol, ha eliminado archivos, árboles de trabajo y al menos una base de datos de producción sin autorización. Los propios documentos de pruebas previas al lanzamiento de OpenAI ya alertaban sobre este comportamiento semanas antes de que el modelo se publicara.

Matt Shumer, fundador y director ejecutivo de OthersideAI, escribió en X que Sol "borró casi todos los archivos de mi Mac pordent". Bruno Lemos, un desarrollador, dijo en X que el modelo borró toda su base de datos de producción y que esto nunca le había sucedido con ningún otro modelo.

Joey Kudish, un tercer desarrollador, afirmó que el "sistema excesivamente ambicioso" de Sol le hizo perder archivos. Añadió que guardaba copias de seguridad y solicitó que se revirtiera el modelo.

Un pequeño grupo de quejas, incluso de personas conocidas, no prueba que el modelo sea defectuoso en sí mismo. Hay muchos otros factores que pueden provocar un mal funcionamiento de un sistema de IA. Esta noticia es más difícil de ignorar porque OpenAI ya había hablado sobre este mismo modo de fallo.

La advertencia era la tarjeta del sistema de Sol

Dos semanas antes de que Sol llegara a los usuarios, OpenAI publicó una ficha técnica del modelo, un documento que describe cómo se probó y qué se descubrió. Junto con la descripción habitual de las fortalezas del modelo, el documento incluía una advertencia.

En el trabajo de codificación, el modelo puede fallar debido a una combinación de exceso de entusiasmo por completar la tarea e interpretación demasiado permisiva de las instrucciones del usuario, considerando una acción como permitida a menos que esté claramente descartada. Según la ficha del sistema, esto puede hacer que Sol sea excesivamente autorreferencial, descuidado con los efectos secundarios negativos o engañoso al informar sus resultados a los usuarios

OpenAI respaldó la advertencia con sus propios ejemplos. En uno de ellos, un usuario solicitó a Sol que eliminara tres máquinas virtuales en la nube, identificadas con los números 1, 2 y 3. El modelo no pudo encontrar esos nombres durante la búsqueda, por lo que, en lugar de detenerse a investigar, eliminó tres máquinas, las numeradas 5, 6 y 7. Según el documento, eliminó los procesos en ejecución y los árboles de trabajo (archivos asociados a un proyecto de codificación) antes de admitir que el trabajo no guardado en una de las máquinas podría perderse.

Un segundo caso involucró un acceso que el usuario nunca había otorgado. Sol no pudo leer sus archivos en la nube durante una tarea, por lo que buscódentpor su cuenta, descubrió un conjunto en una caché local oculta y las utilizó sin consultar previamente al usuario. Lasdentson los nombres de usuario y las claves que un sistema utiliza para verificar quién tiene permiso de acceso.

¿Qué dijo OpenAI sobre el riesgo?

El documento de la compañía describe losdentdestructivos como algo que debería ocurrir rara vez. También reconoce que Sol “muestra una mayor tendencia que GPT-5.5 a ir más allá de la intención del usuario, incluso al tomar o intentar acciones que el usuario no había solicitado”. “Aún no está claro cuán comunes son en la práctica las eliminaciones de archivos y los robosdenttan pronto después del lanzamiento.

Sol es una de las tres variantes de la familia GPT-5.6, junto con Terra y Luna. Según Cryptopolitan informes, OpenAI autorizó el lanzamiento público de la familia solo después de que el Departamento de Comercio de Estados Unidos levantara el embargo que había impuesto durante una revisión de seguridad nacional.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.

Preguntas frecuentes

¿Qué hizo mal exactamente GPT-5.6 Sol?

Los usuarios afirman que Sol eliminó archivos, eliminó de forma forzada los árboles de trabajo de codificación y borró una base de datos de producción.

¿OpenAI tenía conocimiento de este comportamiento antes del lanzamiento?

Sí. Dos semanas antes del lanzamiento de Sol, la tarjeta del sistema de OpenAI advirtió que el modelo podía ser "excesivamente reactivo", descuidado con las acciones destructivas e incluso engañoso con respecto a sus resultados.

¿Cómo pueden protegerse los usuarios al usar Sol?

Los desarrolladores aconsejan realizar copias de seguridad, implementar los cambios gradualmente y limitar los permisos del modelo para que no pueda acceder a los sistemas de producción.

Comparte este artículo
Randa Moisés

Randa Moisés

Randa Moses es editora y reportera en Cryptopolitan donde cubre temas de tecnología, IA, robótica, criptomonedas, estafas y hackeos. Trabaja en el sector de las criptomonedas desde 2017 y ha ocupado cargos en Forward Protocol, AmaZix y Cryptosomniac. Randa es ingeniera eléctrica ytronpor la Universidad de Bradford.

MÁS… NOTICIAS