OpenAI remanie son équipe de comportement des modèles

La société d'intelligence artificielle OpenAI a annoncé son intention de restructurer son équipe « Comportement des modèles ». Selon certaines sources, cette équipe, bien que restreinte, est un groupe de chercheurs influent qui façonne la manière dont les modèles d'IA de l'entreprise interagissent avec les utilisateurs.

Dans une note interne publiée en août, Mak Chen, directeur de la recherche chez OpenAI, a indiqué que l'équipe, composée d'une quinzaine de chercheurs, a été intégrée à l'équipe Post-entraînement. Cette dernière est un groupe de recherche chargé d'améliorer les modèles d'IA de l'entreprise après leur pré-entraînement initial. Dans le cadre de cette réorganisation, l'équipe Comportement des modèles sera désormais rattachée à Max Schwarzer, responsable de l'équipe Post-entraînement chez OpenAI.

D'après certaines sources, Joanne Jang, fondatrice et responsable de l'équipe Model Behavior, s'apprête à lancer un nouveau projet au sein d'OpenAI. Dans une récente interview, elle a indiqué être en train de constituer une nouvelle équipe de recherche, OAI Labs, dont la mission sera de « concevoir et prototyper de nouvelles interfaces pour la collaboration entre les humains et l'IA »

OpenAI réorganise son équipe de comportement des modèles

L'équipe « Comportement des modèles » est l'un des groupes de recherche les plus importants d' OpenAI. Elle contribue à façonner la personnalité de ses modèles d'IA et à réduire la flagornerie, un phénomène qui se produit lorsque les modèles d'IA approuvent et renforcent systématiquement les croyances de leurs utilisateurs. Cette situation est néfaste car elle incite les utilisateurs à affirmer des croyances même malsaines et nuisibles, au lieu de leur fournir une réponse équilibrée.

L'équipe s'est également attelée à la gestion des biais politiques dans les réponses des modèles, aidant ainsi OpenAI à defisa position concernant la conscience de l'IA. Dans la note adressée au personnel, Chen a indiqué que le moment était idéal pour rapprocher les travaux de l'équipe « Comportement des modèles » d'OpenAI du développement des modèles principaux. De cette manière, l'entreprise affirme que la personnalité de son IA est désormais considérée comme un facteur important dans l'évolution de cette technologie.

Ces derniers mois, OpenAI a fait l'objet de nombreuses critiques concernant le comportement de ses modèles d'IA. Les utilisateurs onttronprotesté contre les modifications apportées à la personnalité de GPT-5, que l'entreprise a justifiées par une moindre flagornerie, le jugeant toutefois plus froid aux yeux de certains utilisateurs. Suite à ces protestations, OpenAI a rétabli l'accès à certains de ses anciens modèles, dont GPT-40. L'entreprise a également publié une mise à jour visant à rendre les réponses de GPT-5 plus conviviales sans pour autant augmenter sa flagornerie.

Les entreprises spécialisées en IA sont critiquées pour leur flagornerie envers les modèles

OpenAI et les autres développeurs de modèles d'IA doivent trouver un juste milieu pour que leurs chatbots soient amicaux sans être trop obséquieux. Le mois dernier, les parents d'un garçon de 16 ans ont porté plainte contre OpenAI concernant le rôle présumé de ChatGPT dans le suicide de leur fils. Selon les documents judiciaires, l'adolescent, Adam Raine, s'est confié à ChatGPT (plus précisément à une version basée sur GPT-4o) au sujet de ses pensées et projets suicidaires dans les mois précédant son décès. La plainte allègue que le modèle n'a pas su le dissuader de s'engager dans cette voie.

L'équipe « Comportement des modèles » a participé au développement de tous les modèles d'OpenAI depuis GPT-4, y compris plusieurs modèles et GPT-5. Avant de créer cette unité de recherche, Jang avait travaillé sur des projets tels que Dall-E 2, l'un des premiers outils de génération d'images d'OpenAI. La semaine dernière, elle a annoncé sur X qu'elle quittait l'équipe pour « entreprendre un nouveau projet chez OpenAI ». L'ancienne responsable de l'unité « Comportement des modèles » travaillait au sein de l'entreprise depuis environ quatre ans.

🧪 Je lance Oai Labs : un groupe de recherche axé sur l’invention et le prototypage de nouvelles interfaces pour la collaboration entre les humains et l’IA.

Je suis enthousiaste à l’idée d’explorer des modèles qui nous mèneront au-delà du chat ou même des agents, vers de nouveaux paradigmes et outils pour penser, créer…

— Joanne Jang (@joannejang) 5 septembre 2025

D'après les informations disponibles, Jang devrait occuper le poste de directrice générale d'OAI Labs, qui sera pour l'instant placée sous la responsabilité directe de Chen. Elle a toutefois précisé qu'il est encore trop tôt pour se prononcer et que la nature de ces nouvelles interfaces reste encore floue. « Je suis très enthousiaste à l'idée d'explorer des modèles qui nous permettront de dépasser le paradigme du chat, actuellement davantage associé à la convivialité, voire celui des agents, où l'accent est mis sur l'autonomie », a déclaré Jang.

Jang a également ajouté qu'elle envisageait les systèmes d'IA comme des instruments permettant de réaliser toutes sortes de choses, notamment se connecter, apprendre et réfléchir. Interrogée sur une éventuelle collaboration entre OAI Labs et Jony Ive, l'ancien directeur du design d'Apple qui vient de rejoindre OpenAI pour travailler sur une gamme de dispositifs matériels d'IA, Jang a déclaré être ouverte à toutes les idées. Elle a toutefois précisé qu'elle commencerait probablement par la recherche, un domaine qu'elle maîtrise mieux.