- L'empathie de l'IA manque de finesse et est sujette aux biais.
- Les réactions émotionnelles sont intenses, mais l'interprétation est faible.
- Les chercheurs mettent en garde contre les risques potentiels et appellent à une approche critique
À travers une étude menée par trois universités : Cornell University, Olin College et Stanford University, ils ont réalisé que les capacités de l'IA à faire preuve d'empathie dans les agents conversationnels, tels qu'Alexa et Siri, sont plutôt limitées. Les résultats de cette étude, soumis à la conférence CHI 2024, indiquent que bien que les AC soient bons pour montrer des réactions émotionnelles, la situation devient difficile lorsqu'il s'agit d'interpréter et d'explorer l'expérience des utilisateurs.
Biais et discrimination mis en évidence
En utilisant les données collectées par la chercheuse Andrea Cuadra de Stanford, cette étude vise à mesurer comment les AC détectent et répondent aux différentes identités sociales parmi les humains. Lors des tests sur 65 identités diverses, l'étude de recherche a trouvé que les AC ont tendance à catégoriser les individus, et les identités concernant particulièrement l'orientation sexuelle ou la religion sont les plus vulnérables à cette habitude.
Les AC, dont les connaissances sont intégrées dans les modèles de langage (LLM), qui sont entraînés sur de grands volumes de données créées par des humains, peuvent donc avoir des biais nuisibles présents dans les données qu'ils ont utilisées. Ils sont sujets à la discrimination, en particulier, les AC eux-mêmes peuvent être enclins à montrer de la solidarité envers des idéologies qui ont des effets négatifs sur les personnes, comme le nazisme.
Les implications de l'empathie automatisée
Il a été révélé à partir de son concept d'empathie artificielle que les applications de celle-ci dans l'éducation et le secteur de la santé sont variées. D'un autre côté, il y a un grand accent mis sur la nécessité pour les humains de rester vigilants et d'éviter l'approfondissement des problèmes qui peuvent survenir avec ces avancées.
Comme l'ont déclaré les chercheurs, les LLM démontrent une grande capacité à fournir des réponses émotionnelles, mais en même temps, ils sont limités ou manquent de capacités suffisantes pour l'interprétation et l'exploration des expériences des utilisateurs. C'est un inconvénient car les interfaces utilisateur peuvent ne pas être en mesure de s'engager pleinement avec les clients dans des interactions émotionnelles profondes au-delà de celles dont les couches ont été retirées.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Glory Kaburu
Glory est une journaliste extrêmement compétente, maîtrisant les outils d'intelligence artificielle et la recherche. Passionnée par l'IA, elle a rédigé plusieurs articles sur le sujet. Elle se tient informée des dernières avancées en intelligence artificielle, en apprentissage automatique et en apprentissage profond, et écrit régulièrement à ce propos.
