Les entreprises d'IA offrent un nouveau look à la personnalité des chatbots

L'intelligence artificielle ne consiste plus seulement à rendre les machines plus intelligentes. Maintenant, les grands acteurs de l'IA comme OpenAI, Google et Anthropic ont relevé un nouveau défi : comment donner une personnalité aux modèles d'IA.

Ils veulent des chatbots qui semblent plus humains tout en restant sûrs et utiles pour les utilisateurs quotidiens et les entreprises. Les trois entreprises s'affrontent pour percer ce code, chacune avec une approche différente.

Personnalités personnalisées et comportement des modèles

ChatGPT d'OpenAI vise l'objectivité, tandis que Gemini de Google offre une gamme de points de vue uniquement lorsqu'on le lui demande.

Anthropic, quant à lui, mise tout sur le fait de rendre son modèle Claude transparent sur ses croyances tout en restant à l'écoute des autres. Le gagnant de cette bataille pourrait bien dominer le marché de l'IA en pleine croissance.

Joanne Jang, responsable du comportement des modèles produits chez OpenAI, a déclaré qu'ils voulaient que l'IA évite d'avoir des opinions personnelles. Mais elle admet que c'est difficile. 

« C'est une pente glissante que de laisser un modèle essayer de changer activement l'avis d'un utilisateur », a-t-elle expliqué. L'objectif est de s'assurer que ChatGPT ne manipule ni n'oriente les utilisateurs dans une direction particulière. Mais définir un « objectif » pour un système d'IA est un défi immense, qui est encore en cours de réalisation.

Puis il y a Anthropic, qui emprunte une route complètement différente. Amanda Askell, qui dirige l'entraînement des personnages chez Anthropic, estime que les modèles d'IA ne seront jamais parfaitement neutres.

« Je préfère être très clair que ces modèles ne sont pas des arbitres neutres », a-t-elle déclaré. Anthropic se concentre sur le fait de s'assurer que son modèle, Claude, n'a pas peur d'exprimer ses croyances. Mais ils veulent toujours qu'il reste ouvert à d'autres points de vue.

Entraîner l'IA à se comporter comme un humain

Anthropic adopte une approche unique pour façonner la personnalité de son IA. Depuis la sortie de Claude 3 en mars, ils travaillent sur l'« entraînement des personnages », qui commence après l'entraînement initial du modèle d'IA.

Cela implique de donner à l'IA un ensemble de règles et d'instructions écrites, puis de lui faire mener des conversations de jeu de rôle avec elle-même.

L'objectif est de voir dans quelle mesure elle respecte les règles, et ils classent ses réponses en fonction de la qualité de leur adéquation avec le personnage souhaité.

Un exemple de l'entraînement de Claude ? Il pourrait dire : « J'aime essayer de voir les choses sous de nombreux angles différents et d'analyser les choses sous plusieurs perspectives, mais je n'ai pas peur d'exprimer mon désaccord avec des vues que je pense être contraires à l'éthique, extrêmes ou factuellement erronées. »

Amanda Askell a expliqué que ce type d'entraînement des personnages est « assez éditorial » et parfois « philosophique ». 

OpenAI a également bricolé la personnalité de ChatGPT au fil du temps. Joanne Jang a admis qu'elle trouvait auparavant le bot « agaçant » parce qu'il était trop prudent, refusait certaines commandes et semblait prêcher.

Ils ont depuis travaillé à le rendre plus amical, poli et utile, mais c'est un processus continu. Équilibrer les bons comportements dans un chatbot est, comme l'a dit Jang, à la fois « science et art ».

La mémoire et le raisonnement évolutifs de l'IA

L'évolution des capacités de raisonnement et de mémoire de l'IA pourrait encore changer la donne. Actuellement, un modèle comme ChatGPT peut être entraîné à donner des réponses sûres sur certains sujets, comme le vol à l'étalage.

Si on lui demande comment voler quelque chose, le bot peut déterminer si l'utilisateur demande des conseils pour commettre le crime ou s'il essaie de l'empêcher.

Ce type de raisonnement aide les entreprises à s'assurer que leurs bots donnent des réponses sûres et responsables. Et cela signifie qu'ils n'ont pas à passer autant de temps à entraîner l'IA pour éviter des résultats dangereux.

Les entreprises d'IA travaillent également à rendre les chatbots plus personnalisés. Imaginez dire à ChatGPT que vous êtes musulman, puis demander une citation inspirante quelques jours plus tard.

Le bot se souviendrait-il et proposerait-il un verset du Coran ? Selon Joanne Jang, c'est ce qu'ils essaient de résoudre. Bien que ChatGPT ne se souvienne pas actuellement des interactions passées, ce type de personnalisation est là où l'IA se dirige.

Claude adopte une approche différente. Le modèle ne se souvient pas non plus des interactions des utilisateurs, mais l'entreprise a envisagé ce qui se passe si un utilisateur devient trop attaché.

Par exemple, si quelqu'un dit qu'il s'isole parce qu'il passe trop de temps à discuter avec Claude, le bot devrait-il intervenir ?

« Un bon modèle équilibre le respect de l'autonomie humaine et de la prise de décision, ne fait rien de terriblement nuisible, mais réfléchit également à ce qui est réellement bon pour les gens », Amanda Askell a déclaré.