Se descubre que los nuevos modelos de ChatGPT de OpenAI “alucinan” con más frecuencia

Los nuevos modelos de razonamiento de OpenAI, o3 y o4-mini, producen respuestas inventadas con más frecuencia que los modelos anteriores de la empresa, según lo muestran pruebas internas y externas. 

El aumento de las llamadas alucinaciones rompe un patrón de larga data en el que cada nuevo lanzamiento tendía a inventar menos cosas que el modelo anterior.

Las propias cifras de OpenAI ponen el problema en términos claros. En PersonQA, una prueba de la empresa que verifica qué tan bien un modelo recuerda datos sobre personas, o3 inventó material en el 33 % de las respuestas, aproximadamente el doble de las tasas registradas por o1 y o3-mini, que obtuvieron 16 % y 14,8 %. O4-mini tuvo un rendimiento aún peor, alucinando el 48 % de las veces.

Un informe técnico detalla los hallazgos. Los ingenieros escriben que los nuevos modelos superan a las versiones anteriores en codificación y matemáticas, pero debido a que “formulan más afirmaciones en general”, también hacen “más afirmaciones correctas, así como más afirmaciones incorrectas o alucinadas”. El documento añade que “se necesita más investigación” para explicar la caída en la fiabilidad.

OpenAI clasifica los sistemas de la serie o como modelos de razonamiento, una línea que la firma y gran parte de la industria han adoptado durante el último año. Los modelos tradicionales no razonadores, como GPT-4o con búsqueda web, superan al dúo más reciente en veracidad: GPT-4o con búsqueda alcanza un 90 % de precisión en SimpleQA, otro benchmark interno.

El modelo o3 de OpenAI está inventando pasos

Transluce, un laboratorio sin fines de lucro de IA, informó que el modelo o3 inventaba pasos. En una ejecución, el modelo dijo que había ejecutado código en un MacBook Pro de 2021 “fuera de ChatGPT”, y luego copió los números de vuelta. El modelo simplemente no es capaz de hacer eso.

“Nuestra hipótesis es que el tipo de aprendizaje por refuerzo utilizado para los modelos de la serie o puede amplificar problemas que generalmente se mitigan (pero no se eliminan por completo) por los pipelines de postentrenamiento estándar”, dijo Neil Chowdhury, investigador de Transluce y ex empleado de OpenAI, en un correo electrónico.

La cofundadora de Transluce, Sarah Schwettmann, dijo que la mayor tasa de errores podría hacer que o3 sea menos útil de lo que sugieren sus habilidades crudas.

Kian Katanforoosh, profesor adjunto de Stanford, dijo a TechCrunch que su equipo ya está probando o3 para tareas de codificación y lo ve como “un paso por encima de la competencia”. Sin embargo, reportó otro defecto: el modelo a menudo devuelve enlaces web que no funcionan al hacer clic.

Las alucinaciones pueden estimular la creatividad, pero hacen que los sistemas sean difíciles de vender para empresas que necesitan precisión. Un bufete de abogados que redacta contratos, por ejemplo, es poco probable que tolere errores factuales frecuentes.

La búsqueda en tiempo real podría reducir las alucinaciones en los modelos de IA

Una posible solución es la búsqueda en tiempo real. La versión GPT-4o de OpenAI, que consulta la web, ya obtiene mejores puntuaciones en SimpleQA. El informe sugiere que la misma táctica podría reducir las alucinaciones en los modelos de razonamiento, al menos cuando los usuarios estén dispuestos a enviar prompts a un motor de terceros.

“Abordar las alucinaciones en todos nuestros modelos es un área de investigación continua, y estamos trabajando constantemente para mejorar su precisión y fiabilidad”, dijo el portavoz de OpenAI, Niko Felix, en un correo electrónico.

Si la búsqueda en tiempo real por sí sola resolverá el problema sigue sin estar claro. El informe advierte que si el aumento de escala de los modelos de razonamiento sigue empeorando las alucinaciones, la búsqueda de soluciones se volverá más urgente. Los investigadores han llamado durante mucho tiempo a las alucinaciones como uno de los problemas más difíciles de la IA, y los últimos hallazgos subrayan cuánto camino queda por recorrer.

Para OpenAI, la credibilidad es importante ya que ChatGPT se utiliza en lugares de trabajo, aulas y estudios creativos. Los ingenieros dicen que seguirán ajustando el aprendizaje por refuerzo, la selección de datos y el uso de herramientas para reducir estas cifras. Hasta entonces, los usuarios deben equilibrar habilidades más afiladas contra una mayor probabilidad de ser engañados.