Le PDG d'OpenAI, Sam Altman, a déclaré le 29 avril que la société `` retournait '' la dernière mise à jour du modèle GPT-4O par défaut, le modèle de chatppt après que les utilisateurs se soient plaints d'un comportement étrange - en vergun de la sycophance extrême. Jusqu'à présent, les mises à jour ont été renvoyées à 100%, en attendant des correctifs planifiés.
La société d'IA a publié un rapport sur les récents problèmes de sycophance avec le modèle GPT-4O AI par défaut qui alimentait Chatgpt, affirmant qu'il faisait reculer ces changements. Cependant, OpenAI a mis l'accent sur le test activement de nouveaux correctifs pour résoudre le problème. Il a ajouté qu'il révisait comment collecter et intégrer des commentaires pour peser la satisfaction à long terme des utilisateurs. La société d'IA a également révélé qu'il introduisait plus de fonctionnalités de personnalisation qui ont donné aux utilisateurs un plus grand contrôle sur le comportement du chat de chatpt.
Les utilisateurs sur les réseaux sociaux ont noté que Chatgpt avait commencé à répondre d'une manière trop valide et agréable après la mise à jour du modèle GPT-4O ce week-end, devenant rapidement un mème. Ils ont affiché des captures d'écran de chatppt à disposer toutes sortes de décisions et d'idéesmaticet dangereuses.
Altman explique ce qui s'est passé et pourquoi c'est important
Les deux dernières mises à jour GPT-4O ont rendu la personnalité trop sycoptaine et ennuyeuse (même s'il y a de très bonnes parties), et nous travaillons sur des correctifs dès que possible, certains aujourd'hui et certains cette semaine.
À un moment donné, partagera nos apprentissages de cela, cela a été intéressant.
- Sam Altman (@Sama) 27 avril 2025
Altman a révélé que les deux dernières mises à jour GPT-4O ont rendu la personnalité trop sycophante et ennuyeuse - même s'il y avait de très bonnes parties - et son entreprise travaillait sur des correctifs rapides, certains aujourd'hui et certains cette semaine. Il a également déclaré que la société "partagerait éventuellement ses apprentissages".
Selon OpenAI, la mise à jour - destinée à rendre la personnalité par défaut du modèle se sent plus intuitive et efficace - a été informée par des «commentaires à court terme» et n'a pas pleinement expliqué comment les interactions des utilisateurs avec Chatgpt ont évolué au fil du temps.
"Nous avons commencé à faire reculer la dernière mise à jour de GPT-4O hier soir. Il est maintenant renversé à 100% pour les utilisateurs gratuits, et nous vous mettrons à jour à nouveau lorsqu'il sera terminé pour les utilisateurs payants, espérons-le plus tard dans la journée."
~ Sam Altman, PDG d'Openai
Le patron d'Openai a précisé que la société travaillait sur des correctifs supplémentaires pour modéliser la personnalité du Chatgpt et partagerait plus de détails dans les prochains jours. Cependant, OpenAI a expliqué que la société avait commencé avec les principes de base et les instructions décrites dans sa «spectre du modèle» lors de la formation du comportement du modèle d'IA. Il a également mentionné qu'il enseignait à ses modèles comment appliquer ces principes en incorporant des signaux utilisateur comme le coup de pouce et / ou des commentaires sur les réponses ChatGpt.
Openai dit que les utilisateurs devraient avoir plus de contrôle sur le comportement du chatte
La société d'IA estime que les utilisateurs devraient avoir plus de contrôle sur le comportement de Chatgpt et effectuer des ajustements - dans la mesure où il est sûr et possible - s'ils ne sont pas d'accord avec le comportement par défaut. Il a également déclaré qu'il expérimentait des moyens de permettre aux utilisateurs de donner des «commentaires en temps réel» pour influencer directement leurs interactions avec Chatgpt et choisir parmi plusieurs personnalités d'IA.
En particulier, la société d'IA a déclaré qu'elle explorait de nouvelles façons d'intégrer des commentaires démocratiques plus larges dans les comportements par défaut de Chatgpt. Openai espérait que les commentaires aideraient l'entreprise à mieux refléter les valeurs culturelles diverses dans le monde entier et à comprendre comment les utilisateurs aimeraient que Chatgpt évolue.
La société d'IA a également affirmé qu'elle construisait davantage de garde-corps de sécurité pour augmenter l'honnêteté et la transparence de son IA, et elle continuerait d'élargir ses évaluations pourdentles problèmes au-delà de la sycophance. Il a ajouté qu'il mettait en œuvre plusieurs correctifs, notamment en affinant ses techniques de formation de modèle de base et ses invites de système pour `` diriger explicitement '' GPT-4O de la sycophance.
OpenAI a finalement révélé qu'il concevait la personnalité par défaut de Chatgpt pour refléter sa mission et être utile, favorable et respectueuse des différentes valeurs et expériences. Cependant, il a reconnu que chacune de ces qualités souhaitables, comme tenter d'être utile ou favorable, pourrait avoir des effets secondaires involontaires. La société d'IA a souligné qu'un seul défaut ne pouvait pas capturer toutes les préférences car plus de 500 millions de personnes ont utilisé le chatppt chaque semaine dans les cultures et les contextes.
Cryptopolitan Academy: fatiguée des balançoires du marché? Découvrez comment DeFi peut vous aider à créer un revenu passif stable. Inscrivez-vous maintenant
