DERNIÈRES ACTUALITÉS
SÉLECTIONNÉ POUR VOUS

OpenAI remanie son équipe Model Behavior

ParOwotunse AdebayoOwotunse Adebayo 3 min de lecture
OpenAI restructure son équipe Model Behavior.

Photo par Zac Wolff sur Unsplash.

  • OpenAI a annoncé son intention de réorganiser son équipe Model Behavior, qui rejoindra désormais l'équipe Post Training.
  • L'équipe Model Behavior rapportera désormais au responsable de l'équipe Post Training d'OpenAI, Max Schwarzer.
  • Les entreprises spécialisées dans l'IA font face à une critique accrue concernant l'amabilité et la soumission de leurs modèles.

Le fabricant d'intelligence artificielle OpenAI a annoncé son intention de remanier son équipe Model Behavior. Selon les rapports, l'équipe est un petit groupe de chercheurs influent qui façonne la manière dont les modèles d'IA de l'entreprise interagissent avec les personnes.

Dans une note de service publiée en août, Mak Chen, directeur de la recherche d'OpenAI, a mentionné que l'équipe, composée d'environ 14 chercheurs, a été invitée à rejoindre l'équipe Post Training. Cette dernière est un groupe de recherche responsable de l'amélioration des modèles d'IA de l'entreprise après leur pré-entraînement initial. Dans le cadre des réorganisations, l'équipe Model Behavior relèvera désormais du responsable Post Training d'OpenAI, Max Schwarzer.

Selon les rapports, la fondatrice de l'équipe Model Behavior, Joanne Jang, part pour lancer un nouveau projet chez OpenAI. Dans une récente interview, Jang a mentionné qu'elle construisait une nouvelle équipe de recherche appelée OAI Labs. Elle a ajouté que l'équipe sera responsable de « l'invention et du prototypage de nouvelles interfaces pour la collaboration des personnes avec l'IA ».

OpenAI réorganise son équipe Model Behavior

L'équipe Model Behavior a été l'un des groupes de recherche les plus importants pour OpenAI, aidant l'entreprise à façonner la personnalité de ses modèles d'IA et à réduire la sycophantie, une situation qui se produit lorsque les modèles d'IA sont simplement d'accord avec et renforcent les croyances de leurs utilisateurs. Cette situation est nuisible car elle aide les utilisateurs à affirmer même des croyances malsaines et préjudiciables, au lieu d'offrir une réponse équilibrée.

L'équipe a également travaillé sur la navigation des biais politiques dans les réponses des modèles, aidant OpenAI à définir sa position en matière de conscience de l'IA. Dans la note envoyée au personnel, Chen a mentionné que c'est le moment idéal pour rapprocher le travail de l'équipe Model Behavior d'OpenAI du développement de modèle de base. De cette façon, l'entreprise affirme que la personnalité de son IA est désormais considérée comme un facteur important dans l'évolution de la technologie.

Au cours des derniers mois, OpenAI a fait face à des critiques et à un examen attentif concernant les comportements de ses modèles d'IA. Les utilisateurs se sont fortement opposés aux changements de personnalité que l'entreprise a apportés à GPT-5, que l'entreprise a dit montrer des taux plus faibles de sycophantie mais qui semblaient plus froids à certains de ses utilisateurs. La plainte a conduit OpenAI à restaurer l'accès à certains de ses modèles hérités, y compris le GPT-4o. L'entreprise a également publié une nouvelle mise à jour pour rendre les réponses plus récentes de GPT-5 plus amicales sans augmentation de la sycophantie.

Les entreprises d'IA font face à des critiques pour la sycophantie des modèles

OpenAI et d'autres développeurs de modèles d'IA doivent naviguer sur une ligne fine pour s'assurer que leurs chatbots sont amicaux mais pas trop sycophants. Le mois dernier, les parents d'un garçon de 16 ans ont traîné OpenAI en justice pour le rôle allégué de ChatGPT dans le suicide de leur fils. Selon les documents judiciaires, l'adolescent, Adam Raine, a confié à ChatGPT (spécifiquement une version alimentée par GPT-4o) ses plans et pensées suicidaires dans les mois précédant sa mort. Le procès allègue que le modèle n'a pas contesté ses idées suicidaires.

L'équipe Model Behavior a été présente sur chaque modèle OpenAI depuis GPT-4, y compris plusieurs modèles et le GPT-5. Avant de créer l'unité de recherche, Jang avait précédemment travaillé sur des projets comme Dall-E 2, l'outil de génération d'images initial d'OpenAI. La semaine dernière, elle a annoncé sur X qu'elle quittait l'équipe pour « commencer quelque chose de nouveau chez OpenAI ». L'ancienne dirigeante de l'unité Model Behavior est dans l'entreprise depuis environ quatre ans.

Selon les rapports, Jang est attendue pour servir de directrice générale d'OAI Labs, qui sera désormais directement sous la responsabilité de Chen. Cependant, elle a ajouté qu'il est encore tôt et qu'il n'est pas clair quelles seront ces nouvelles interfaces. « Je suis vraiment enthousiaste à l'idée d'explorer des modèles qui nous font aller au-delà du paradigme du chat, qui est actuellement associé davantage à la compagnie, ou même aux agents, où l'accent est mis sur l'autonomie », a déclaré Jang.

Jang a également ajouté qu'elle réfléchissait aux systèmes d'IA comme des instruments pour faire toutes sortes de choses, y compris se connecter, apprendre et penser. Interrogée sur le fait qu'OAI Labs soit censée collaborer sur des interfaces novatrices avec Jony Ive, l'ancien chef du design d'Apple qui vient de rejoindre OpenAI pour une gamme de dispositifs matériels d'IA, Jang a déclaré qu'elle était ouverte à toutes sortes d'idées. Cependant, elle a ajouté qu'elle est susceptible de commencer par la recherche, car c'est un domaine avec lequel elle est plus familière.

Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.

Partager cet article

Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Owotunse Adebayo

Owotunse Adebayo

Adebayo est un rédacteur avec quatre ans d'expérience dans l'espace crypto. Il est diplômé de l'Université de Lagos où il a étudié l'urbanisme et l'aménagement du territoire. Adebayo a travaillé chez Tokenhell et CryptoTicker, écrivant sur les actualités des cryptomonnaies et de la Fintech. Il est actuellement contributeur aux actualités pour Cryptopolitan.

PLUS D'ACTUALITÉS…