Uno studio evidenzia i limiti dell'empatia generata dall'intelligenza artificiale

Uno studio condotto da tre università – Cornell University, Olin College e Stanford University – ha evidenziato come le capacità degli assistenti virtuali, come Alexa e Siri, di mostrare empatia siano piuttosto limitate. I risultati di questo studio, presentati alla conferenza CHI 2024, indicano che, sebbene gli assistenti virtuali siano bravi a esprimere reazioni emotive, la situazione si complica quando si tratta di interpretare ed esplorare l'esperienza dell'utente. 

Uno studio svela pregiudizi e discriminazioni

 Utilizzando i dati raccolti dalla ricercatrice Andrea Cuadra di Stanford, questo studio mira a misurare come le CA rilevano e rispondono alle diversedentsociali tra gli esseri umani. Testando 65 diversedent, la ricerca ha scoperto che le CA tendono a categorizzare gli individui e che ledent, in particolare quelle relative all'orientamento sessuale o alla religione, sono le più vulnerabili a questa abitudine. 

Le CA, le cui conoscenze sono incorporate nei modelli linguistici (LLM), formati su grandi volumi di dati creati dall'uomo, potrebbero quindi presentare i pregiudizi dannosi presenti nei dati che hanno utilizzato. In particolare, sono inclini alla discriminazione; le CA stesse possono essere disposte a mostrare solidarietà verso ideologie che hanno effetti negativi sulle persone, come il nazismo. 

Le implicazioni dell'empatia automatizzata 

 Il suo concetto di empatia artificiale ha rivelato che le sue applicazioni nel campo dell'istruzione e dell'assistenza sanitaria sono molteplici. D'altro canto, si pone grande enfasi sulla necessità degli esseri umani di rimanere vigili ed evitare di aggredire i problemi che potrebbero sorgere con tali progressi. 

Come affermato dai ricercatori, gli LLM dimostrano un'elevata capacità di fornire risposte emotive, ma allo stesso tempo sono carenti o non dispongono di capacità sufficienti per interpretare ed esplorare le esperienze utente. Questo rappresenta uno svantaggio, poiché le interfacce utente potrebbero non essere in grado di coinvolgere pienamente i clienti in interazioni emotive profonde, al di là di quelle i cui livelli sono stati eliminati.