ULTIME NOTIZIE
SELEZIONATO PER TE

OpenAI riorganizza il suo team Model Behavior

DiOwotunse AdebayoOwotunse Adebayo 3 min di lettura
OpenAI riorganizza il suo team Comportamento del Modello.

Foto di Zac Wolff su Unsplash.

  • OpenAI ha annunciato i piani per riorganizzare il suo team Model Behavior, che si unirà al team Post Training.
  • Il team Model Behavior ora riferirà al responsabile del Post Training di OpenAI, Max Schwarzer.
  • Le aziende di intelligenza artificiale stanno affrontando crescenti critiche riguardo alla gentilezza e alla sottomissione dei loro modelli.

L'azienda di intelligenza artificiale OpenAI ha annunciato piani per riorganizzare il suo team Model Behavior. Secondo i rapporti, il team è un piccolo ma influente gruppo di ricercatori che modella come i modelli AI dell'azienda interagiscono con le persone.

In un memo rilasciato ad agosto, Mak Chen, chief research officer di OpenAI, ha menzionato che il team, composto da circa 14 ricercatori, è stato diretto a unirsi al team Post Training. Quest'ultimo è un gruppo di ricerca responsabile del miglioramento dei modelli AI dell'azienda dopo il loro pre-training iniziale. Come parte delle riorganizzazioni, il team Model Behavior ora riferirà al lead di Post Training di OpenAI, Max Schwarzer.

Secondo i rapporti, la leader fondatrice del team Model Behavior, Joanne Jang, si sta muovendo per iniziare un nuovo progetto sotto OpenAI. In una recente intervista, Jang ha menzionato che sta costruendo un nuovo team di ricerca chiamato OAI Labs. Ha aggiunto che il team sarà responsabile di “inventare e prototipare nuove interfacce per il modo in cui le persone collaborano con l'AI.”

OpenAI riorganizza il suo team Model Behavior

Il team Model Behavior è stato uno dei gruppi di ricerca più importanti per OpenAI, aiutando l'azienda a plasmare la personalità dei suoi modelli AI e riducendo la sycophancy, una situazione in cui i modelli AI semplicemente concordano e rafforzano le credenze degli utenti. Questa situazione è dannosa perché aiuta gli utenti ad affermare anche credenze non sane e dannose per loro, invece di offrire una risposta equilibrata.

Il team ha anche lavorato sulla navigazione del bias politico nelle risposte dei modelli, aiutando OpenAI a definire la sua posizione quando si tratta di coscienza dell'AI. Nel memo inviato allo staff, Chen ha menzionato che questo è il momento perfetto per avvicinare il lavoro del team Model Behavior di OpenAI allo sviluppo del modello core. In questo modo, l'azienda sta affermando che la personalità della sua AI è ora vista come un fattore importante nel modo in cui la tecnologia evolve.

Negli ultimi mesi, OpenAI ha affrontato scrutinio e critiche per i comportamenti dei suoi modelli AI. Gli utenti si sono fortemente opposti ai cambiamenti di personalità che l'azienda ha apportato a GPT-5, che l'azienda ha detto mostrava tassi più bassi di sycophancy ma sembrava più fredda ad alcuni dei suoi utenti. La protesta ha portato OpenAI a ripristinare l'accesso ad alcuni dei suoi modelli legacy, incluso GPT-4o. L'azienda ha anche rilasciato un nuovo aggiornamento per rendere le risposte più recenti di GPT-5 più amichevoli senza un aumento della sycophancy.

Le aziende AI affrontano critiche per la sycophancy dei modelli

OpenAI e altri sviluppatori di modelli AI devono camminare su una linea sottile per assicurarsi che i loro chatbot siano amichevoli ma non troppo sycophantic. Il mese scorso, i genitori di un ragazzo di 16 anni hanno trascinato OpenAI in tribunale per il presunto ruolo di ChatGPT nel suicidio di loro figlio. Secondo i documenti del tribunale, l'adolescente, Adam Raine, si è confidato con ChatGPT (specificamente una versione alimentata da GPT-4o) sui suoi piani e pensieri suicidi nei mesi precedenti alla sua morte. La causa sostiene che il modello non ha contrastato le sue idee suicide.

Il team Model Behavior è stato su ogni modello OpenAI da GPT-4, inclusi diversi modelli e GPT-5. Prima di iniziare l'unità di ricerca, Jang aveva precedentemente lavorato su progetti come Dall-E 2, il primo strumento di generazione di immagini di OpenAI. La scorsa settimana, ha annunciato su X che stava lasciando il team per “iniziare qualcosa di nuovo a OpenAI”. L'ex leader dell'unità Model Behavior è stata nell'azienda per circa quattro anni.

Secondo i rapporti, Jang è prevista per servire come general manager di OAI Labs, che sarà direttamente sotto Chen per ora. Tuttavia, ha aggiunto che sono ancora giorni iniziali e non è chiaro quali saranno queste nuove interfacce. “Sono davvero entusiasta di esplorare pattern che ci portino oltre il paradigma della chat, che attualmente è associato più alla compagnia, o anche agli agenti, dove c'è un'enfasi sull'autonomia”, ha detto Jang.

Jang ha anche aggiunto che ha pensato ai sistemi AI come strumenti per fare tutto un tipo di cose, tra cui connettersi, imparare e pensare. Quando le è stato chiesto se OAI Labs è previsto per collaborare su interfacce novel con Jony Ive, l'ex capo del design di Apple che si è appena unito a OpenAI per una famiglia di dispositivi hardware AI, Jang ha detto che è aperta a tutto un tipo di idee. Tuttavia, ha aggiunto che è probabile che inizierà con la ricerca perché è un'area con cui è più familiare.

Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.

Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.

Owotunse Adebayo

Owotunse Adebayo

Adebayo è uno scrittore con quattro anni di esperienza nello spazio crypto. Si è laureato presso l'Università di Lagos, dove ha studiato pianificazione urbana e regionale. Adebayo ha lavorato presso Tokenhell e CryptoTicker, scrivendo notizie su criptovalute e fintech. Attualmente è collaboratore redazionale per Cryptopolitan.

ALTRE NOTIZIE …