- L'empathie de l'IA manque de finesse et est sujette aux biais.
- Les réactions émotionnelles sont fortes, mais l'interprétation est faible.
- Les chercheurs mettent en garde contre les risques potentiels et appellent à une approche critique
À travers étude de trois universités : Cornell University, Olin College et Stanford University, ils ont pris conscience que les capacités des agents conversationnels (comme Alexa et Siri) à faire preuve d'empathie dans la conversation sont plutôt limitées. Les résultats de cette étude, soumis à la conférence CHI 2024, indiquent que si ces agents sont bons pour exprimer des réactions émotionnelles, la situation devient délicate lorsqu'il s'agit d'interpréter et d'explorer l'expérience des utilisateurs.
Biais et discriminations mis en lumière
En utilisant les données collectées par la chercheuse Andrea Cuadra de Stanford, cette étude vise à mesurer comment les agents conversationnels détectent et répondent aux différentes identités sociales humaines. Après avoir testé 65 identités variées, l'étude a révélé que les agents conversationnels ont tendance à catégoriser les individus, et que les identités liées à l'orientation sexuelle ou à la religion sont particulièrement vulnérables à cette habitude.
Les agents conversationnels, dont les connaissances sont intégrées dans les modèles de langage (LLM) entraînés sur d'immenses volumes de données créées par l'homme, peuvent donc présenter des biais préjudiciables présents dans les données utilisées. Ils sont particulièrement sujets à la discrimination ; en effet, les agents conversationnels eux-mêmes pourraient être amenés à manifester leur solidarité envers des idéologies ayant des effets néfastes sur les populations, comme le nazisme.
Les implications de l'empathie automatisée
Il a été révélé que le concept d'empathie artificielle de cet individu offre des applications variées dans les secteurs de l'éducation et de la santé. En revanche, il est grandement souligné qu'il est nécessaire que les humains restent vigilants et évitent de négliger les problèmes qui pourraient surgir avec ces avancées.
Comme l'ont indiqué les chercheurs, les LLM démontrent une grande capacité à fournir des réponses émotionnelles, mais ils sont en même temps limités ou manquent de compétences suffisantes pour interpréter et explorer les expériences des utilisateurs. C'est un inconvénient, car les interfaces utilisateur (UI) peuvent ne pas être en mesure de s'engager pleinement avec les clients dans des interactions émotionnelles profondes au-delà de celles dont les couches ont été dépouillées.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous voulez vous y joindre ? Rejoignez-les.
Avis de non-responsabilité. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com n'engage aucune responsabilité pour les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Glory Kaburu
Glory est une journaliste extrêmement compétente, experte des outils et de la recherche en IA. Passionnée par l'IA, elle a rédigé plusieurs articles sur le sujet. Elle reste constamment informée des dernières avancées en intelligence artificielle, en apprentissage automatique et en apprentissage profond, et écrit régulièrement à ce propos.
