OpenAI riorganizza il suo team Model Behavior

L'azienda di intelligenza artificiale OpenAI ha annunciato l'intenzione di riorganizzare il suo team Model Behavior. Secondo quanto riportato, il team è un piccolo ma influente gruppo di ricercatori che plasma il modo in cui i modelli di intelligenza artificiale dell'azienda interagiscono con le persone.

In una nota pubblicata ad agosto, Mak Chen, responsabile della ricerca di OpenAI, ha affermato che il team, composto da circa 14 ricercatori, è stato incaricato di unirsi al team Post Training. Quest'ultimo è un gruppo di ricerca responsabile del miglioramento dei modelli di intelligenza artificiale dell'azienda dopo il loro pre-addestramento iniziale. Nell'ambito delle riorganizzazioni, il team Model Behavior riferirà ora al responsabile Post Training di OpenAI, Max Schwarzer.

Secondo quanto riportato, la fondatrice e leader del team Model Behavior, Joanne Jang, sta per avviare un nuovo progetto nell'ambito di OpenAI. In una recente intervista, Jang ha dichiarato di stare creando un nuovo team di ricerca chiamato OAI Labs. Ha aggiunto che il team sarà responsabile di "inventare e prototipare nuove interfacce per la collaborazione tra le persone e l'intelligenza artificiale"

OpenAI riorganizza il suo team Model Behavior

Il team di Model Behavior è stato uno dei gruppi di ricerca più importanti per OpenAI, aiutando l'azienda a plasmare la personalità dei suoi modelli di intelligenza artificiale e a ridurre l'adulazione, una situazione che si verifica quando i modelli di intelligenza artificiale si limitano a concordare e rafforzare le convinzioni dei loro utenti. Questa situazione è dannosa perché induce gli utenti ad affermare anche convinzioni malsane e dannose per loro, invece di offrire una risposta equilibrata.

Il team ha anche lavorato per gestire i pregiudizi politici nelle risposte dei modelli, aiutando OpenAI defila propria posizione in materia di consapevolezza dell'IA. Nella nota inviata allo staff, Chen ha affermato che questo è il momento perfetto per avvicinare il lavoro del team Model Behavior di OpenAI allo sviluppo del modello principale. In questo modo, l'azienda afferma che la personalità della sua IA è ora considerata un fattore importante nell'evoluzione della tecnologia.

Negli ultimi mesi, OpenAI è stata oggetto di analisi e critiche per i comportamenti dei suoi modelli di intelligenza artificiale. Gli utenti si sonotronopposti ai cambiamenti di personalità apportati dall'azienda a GPT-5, che, secondo l'azienda, mostravano tassi di adulazione inferiori ma apparivano più freddi ad alcuni dei suoi utenti. Il reclamo ha spinto OpenAI a ripristinare l'accesso ad alcuni dei suoi modelli legacy, incluso GPT-40. L'azienda ha anche rilasciato un nuovo aggiornamento per rendere le nuove risposte di GPT-5 più amichevoli senza aumentare l'adulazione.

Le aziende di intelligenza artificiale sono criticate per l'adulazione dei modelli

OpenAI e altri sviluppatori di modelli di intelligenza artificiale devono muoversi su un filo sottile per garantire che i loro chatbot siano amichevoli ma non troppo servili. Il mese scorso, i genitori di un ragazzo di 16 anni hanno trascinato OpenAI in tribunale per il presunto ruolo di ChatGPT nel suicidio del figlio. Secondo i documenti del tribunale, l'adolescente, Adam Raine, si è confidato con ChatGPT (in particolare una versione basata su GPT-4o) riguardo ai suoi piani e pensieri suicidi nei mesi precedenti la sua morte. La causa sostiene che il modello non sia riuscito a contrastare le sue idee suicide.

Il team Model Behavior ha lavorato su tutti i modelli OpenAI a partire da GPT-4, inclusi diversi modelli e GPT-5. Prima di fondare l'unità di ricerca, Jang aveva già lavorato a progetti come Dall-E 2, il primo strumento di generazione di immagini di OpenAI. La scorsa settimana, ha annunciato su X che avrebbe lasciato il team per "iniziare qualcosa di nuovo in OpenAI". L'ex responsabile dell'unità Model Behavior lavora con l'azienda da circa quattro anni.

🧪 Sto fondando OAI Labs: un gruppo di ricerca focalizzato sull'invenzione e la prototipazione di nuove interfacce per la collaborazione tra persone e IA.

Sono entusiasta di esplorare modelli che ci portino oltre la chat o persino gli agenti, verso nuovi paradigmi e strumenti per pensare, creare,...

— Joanne Jang (@joannejang) 5 settembre 2025

Secondo quanto riportato, Jang dovrebbe ricoprire il ruolo di direttrice generale di OAI Labs, che per ora sarà direttamente subordinata a Chen. Tuttavia, ha aggiunto che è ancora presto e non è chiaro quali saranno le nuove interfacce. "Sono davvero entusiasta di esplorare modelli che ci portino oltre il paradigma della chat, che attualmente è più associato alla compagnia o persino agli agenti, dove l'enfasi è sull'autonomia", ha affermato Jang.

Jang ha anche aggiunto di aver pensato ai sistemi di intelligenza artificiale come strumenti per fare ogni sorta di cosa, tra cui connettersi, imparare e pensare. Alla domanda se OAI Labs prevede di collaborare a nuove interfacce con Jony Ive, l'ex responsabile del design di Apple che si è appena unito a OpenAI su una famiglia di dispositivi hardware di intelligenza artificiale, Jang ha risposto di essere aperta a ogni tipo di idea. Tuttavia, ha aggiunto che probabilmente inizierà con la ricerca, perché è un ambito con cui ha maggiore familiarità.