OpenAI reorganiza su equipo de Model Behavior

La firma de inteligencia artificial OpenAI ha anunciado planes para reorganizar su equipo de Modelado de Comportamiento. Según informes, el equipo es un grupo pequeño pero influyente de investigadores que define cómo los modelos de IA de la firma interactúan con las personas.

En un memorando publicado en agosto, Mak Chen, director de investigación de OpenAI, mencionó que el equipo, compuesto por unos 14 investigadores, ha recibido instrucciones para unirse al equipo de Post-Capacitación. Este último es un grupo de investigación responsable de mejorar los modelos de IA de la compañía tras su pre-entrenamiento inicial. Como parte de la reorganización, el equipo de Comportamiento de Modelos ahora reportará al responsable de Post-Capacitación de OpenAI, Max Schwarzer.

Según informes, Joanne Jang, líder fundadora del equipo de Model Behavior, está iniciando un nuevo proyecto en OpenAI. En una entrevista reciente, Jang mencionó que está creando un nuevo equipo de investigación llamado OAI Labs. Añadió que el equipo se encargará de "inventar y prototipar nuevas interfaces para la colaboración entre personas y la IA"

OpenAI reorganiza su equipo de Model Behavior

El equipo de Comportamiento de Modelos ha sido uno de los grupos de investigación más importantes de OpenAI, ayudando a la empresa a moldear la personalidad de sus modelos de IA y a reducir la adulación, una situación que se produce cuando los modelos de IA simplemente concuerdan y refuerzan las creencias de sus usuarios. Esta situación es perjudicial porque ayuda a los usuarios a afirmar incluso creencias perjudiciales, en lugar de ofrecer una respuesta equilibrada.

El equipo también ha trabajado en la gestión del sesgo político en las respuestas de los modelos, lo que ha ayudado a OpenAI a defisu postura respecto a la concienciación sobre la IA. En el memorando enviado al personal, Chen mencionó que este es el momento ideal para acercar el trabajo del equipo de Comportamiento de Modelos de OpenAI al desarrollo del modelo central. De esta manera, la empresa afirma que la personalidad de su IA se considera ahora un factor importante en la evolución de la tecnología.

En los últimos meses, OpenAI ha enfrentado escrutinio y críticas por el comportamiento de sus modelos de IA. Los usuarios se hantronenérgicamente a los cambios de personalidad que la compañía implementó en GPT-5, que, según la compañía, mostraban menores índices de adulación, pero parecían más fríos para algunos usuarios. La queja llevó a OpenAI a restaurar el acceso a algunos de sus modelos heredados, incluido el GPT-4o. La compañía también lanzó una nueva actualización para que las respuestas de GPT-5 más recientes resulten más amigables sin aumentar la adulación.

Las empresas de inteligencia artificial se enfrentan a críticas por su adulación a los modelos

OpenAI y otros desarrolladores de modelos de IA deben ser muy cuidadosos para garantizar que sus chatbots sean amigables, pero no demasiado aduladores. El mes pasado, los padres de un joven de 16 años demandaron a OpenAI por la presunta participación de ChatGPT en el suicidio de su hijo. Según documentos judiciales, el adolescente, Adam Raine, confesó a ChatGPT (específicamente, una versión impulsada por GPT-4o) sus planes y pensamientos suicidas en los meses previos a su muerte. La demanda alega que el modelo no reprimió sus ideas suicidas.

El equipo de Comportamiento de Modelos ha participado en todos los modelos de OpenAI desde GPT-4, incluyendo varios modelos y el GPT-5. Antes de fundar la unidad de investigación, Jang había trabajado en proyectos como Dall-E 2, la herramienta inicial de generación de imágenes de OpenAI. La semana pasada, anunció en X que dejaba el equipo para "empezar algo nuevo en OpenAI". La exlíder de la unidad de Comportamiento de Modelos lleva en la empresa unos cuatro años.

🧪 Estoy creando OAI Labs: un grupo de investigación centrado en inventar y prototipar nuevas interfaces para la colaboración entre personas e IA.

Me entusiasma explorar patrones que nos lleven más allá del chat o incluso de los agentes, hacia nuevos paradigmas e instrumentos para pensar, crear…

— Joanne Jang (@joannejang) 5 de septiembre de 2025

Según los informes, se espera sea la directora general de OAI Labs, que por ahora estará bajo la supervisión directa de Chen. Sin embargo, añadió que aún es pronto y que no está claro cuáles serán esas nuevas interfaces. «Me entusiasma explorar patrones que nos lleven más allá del paradigma del chat, que actualmente se asocia más con la compañía o incluso con los agentes, donde se hace hincapié en la autonomía», declaró Jang.

Jang también añadió que ha estado considerando los sistemas de IA como instrumentos para diversas tareas, como conectar, aprender y pensar. Al preguntársele si se espera que OAI Labs colabore en interfaces novedosas con Jony Ive, exjefe de diseño de Apple que acaba de unirse a OpenAI para una familia de dispositivos de hardware de IA, Jang respondió que está abierta a todo tipo de ideas. Sin embargo, añadió que probablemente comenzará con la investigación, ya que es un área con la que está más familiarizada.