Les entreprises spécialisées en IA donnent une nouvelle personnalité aux chatbots

L'intelligence artificielle ne se limite plus à rendre les machines plus intelligentes. Désormais, les géants de l'IA comme OpenAI, Google et Anthropic se sont attaqués à un nouveau défi : comment doter les modèles d'IA d'une personnalité ?.

Ils souhaitent des chatbots plus humains, tout en restant sûrs et utiles au quotidien pour les particuliers et les entreprises. Les trois sociétés se livrent une véritable course pour trouver la solution, chacune avec une approche différente.

Personnalités personnalisées et comportement modèle

ChatGPT d'OpenAI mise tout sur l'objectivité, tandis que Gemini de Google n'offre un éventail de points de vue que sur demande.

Anthropique ? Ils s’efforcent de rendre leur modèle Claude transparent quant à ses principes, tout en restant à l’écoute des autres. Le vainqueur de cette bataille pourrait bien s’emparer du marché en pleine expansion de l’IA.

Joanne Jang, responsable du comportement des modèles de produits chez OpenAI, a déclaré qu'ils souhaitent que l'IA s'abstienne d'avoir des opinions personnelles. Mais elle admet que c'est difficile. 

« Laisser un modèle tenter d'influencer activement l'avis d'un utilisateur est une pente glissante », a-t-elle expliqué. L'objectif est de garantir que ChatGPT ne manipule pas les utilisateurs et ne les oriente dans aucune direction. Mais defiun « objectif » pour un système d'IA représente un défi de taille, un défi qui reste à relever.

Il y a ensuite Anthropic, qui adopte une approche totalement différente. Amanda Askell, responsable de la formation des personnages chez Anthropic, estime que les modèles d'IA ne seront jamais parfaitement neutres.

« Je tiens à préciser que ces modèles ne sont pas des arbitres neutres », a-t-elle déclaré. Anthropic s'attache à ce que son modèle, Claude, n'hésite pas à exprimer ses convictions. Mais l'organisation souhaite également qu'il reste ouvert aux autres points de vue.

Entraîner l'IA à se comporter comme un humain

Anthropic a une approche unique pour façonner la personnalité de son IA. Depuis la sortie de Claude 3 en mars, ils travaillent sur un « entraînement du caractère », qui débute après l'entraînement initial du modèle d'IA.

Cela implique de donner à l'IA un ensemble de règles et d'instructions écrites, puis de la faire mener des conversations de jeu de rôle avec elle-même.

L'objectif est de voir dans quelle mesure il respecte les règles, et ses réponses sont classées en fonction de leur adéquation au personnage recherché.

Un exemple de la formation de Claude ? Il pourrait dire : « J'aime essayer de voir les choses sous différents angles et de les analyser à plusieurs niveaux, mais je n'ai pas peur d'exprimer mon désaccord avec les points de vue que je juge contraires à l'éthique, extrêmes ou factuellement erronés. »

Amanda Askell a expliqué que ce type de formation du caractère est parfois « assez éditorial » et « philosophique ». 

OpenAI a également peaufiné la personnalité de ChatGPT au fil du temps. Joanne Jang a admis qu'elle trouvait le bot « agaçant » car il était excessivement prudent, refusait certaines commandes et avait un ton moralisateur.

Depuis, ils se sont efforcés de le rendre plus convivial, poli et utile, mais c'est un travail de longue haleine. Trouver le juste équilibre dans les comportements d'un chatbot relève, comme l'a dit Jang, à la fois de la « science et de l'art »

L'évolution de la mémoire et du raisonnement de l'IA

L'évolution des capacités de raisonnement et de mémorisation de l'IA pourrait encore davantage bouleverser la donne. À l'heure actuelle, un modèle comme ChatGPT peut être entraîné à fournir des réponses sûres sur certains sujets, comme le vol à l'étalage.

Si on demande à l'utilisateur comment voler quelque chose, le bot peut déterminer s'il cherche des conseils pour commettre le crime ou s'il essaie de l'empêcher.

Ce type de raisonnement permet aux entreprises de s'assurer que leurs chatbots fournissent des réponses sûres et responsables. De plus, cela leur évite de consacrer autant de temps à l'entraînement de l'IA pour éviter les situations dangereuses.

Les entreprises spécialisées en IA travaillent également à rendre les chatbots plus personnalisés. Imaginez indiquer à ChatGPT que vous êtes musulman, puis lui demander une citation inspirante quelques jours plus tard.

Le bot pourrait-il se souvenir d'un verset du Coran et le réciter ? Selon Joanne Jang, c'est précisément la question qu'ils cherchent à résoudre. Si ChatGPT ne conserve pas encore en mémoire les interactions passées, ce type de personnalisation représente l'avenir de l'IA.

Claude adopte une approche différente. Le modèle ne conserve pas non plus en mémoire les interactions des utilisateurs, mais l'entreprise a réfléchi aux conséquences d'un attachement excessif de la part de l'utilisateur.

Par exemple, si quelqu'un dit qu'il s'isole parce qu'il passe trop de temps à discuter avec Claude, le bot devrait-il intervenir ?

« Un bon modèle trouve le juste équilibre entre le respect de l’autonomie et de la capacité de décision humaines, le fait de ne rien faire de terriblement nuisible, mais aussi la réflexion sur ce qui est réellement bon pour les gens », a déclaré.