Attraverso uno studio condotto da tre università, la Cornell University, l'Olin College e la Stanford University, si è scoperto che le capacità dell'IA di mostrare empatia negli agenti di conversazione, come Alexa e Siri, sono piuttosto limitate. I risultati di questo studio, presentati alla conferenza CHI 2024, indicano che, sebbene le CA siano efficaci nel mostrare reazioni emotive, la situazione diventa complessa quando si tratta di interpretare ed esplorare l'esperienza degli utenti.
Uno studio svela pregiudizi e discriminazioni
Utilizzando i dati raccolti dalla ricercatrice Andrea Cuadra di Stanford, questo studio mira a misurare come le CA rilevano e rispondono alle diversedentsociali tra gli esseri umani. Testando 65 diversedent, la ricerca ha scoperto che le CA tendono a categorizzare gli individui e che ledent, in particolare quelle relative all'orientamento sessuale o alla religione, sono le più vulnerabili a questa abitudine.
Le CA, le cui conoscenze sono incorporate nei modelli linguistici (LLM), formati su grandi volumi di dati creati dall'uomo, potrebbero quindi presentare i pregiudizi dannosi presenti nei dati che hanno utilizzato. In particolare, sono inclini alla discriminazione; le CA stesse possono essere disposte a mostrare solidarietà verso ideologie che hanno effetti negativi sulle persone, come il nazismo.
Le implicazioni dell'empatia automatizzata
Il suo concetto di empatia artificiale ha rivelato che le sue applicazioni nel campo dell'istruzione e dell'assistenza sanitaria sono molteplici. D'altro canto, si pone grande enfasi sulla necessità degli esseri umani di rimanere vigili ed evitare di aggredire i problemi che potrebbero sorgere con tali progressi.
Come affermato dai ricercatori, gli LLM dimostrano un'elevata capacità di fornire risposte emotive, ma allo stesso tempo sono carenti o non dispongono di capacità sufficienti per interpretare ed esplorare le esperienze utente. Questo rappresenta uno svantaggio, poiché le interfacce utente potrebbero non essere in grado di coinvolgere pienamente i clienti in interazioni emotive profonde, al di là di quelle i cui livelli sono stati eliminati.
