- L'empatia dell'IA manca di acutezza ed è soggetta a pregiudizi.
- Le reazioni emotive sono intense, ma l'interpretazione è debole.
- I ricercatori avvertono di potenziali danni e chiedono prospettive critiche
Attraverso uno studio di tre università, l'Università di Cornell, l'Olin College e l'Università di Stanford, hanno realizzato che le capacità dell'AI di mostrare empatia negli agenti conversazionali, come Alexa e Siri, sono piuttosto limitate. I risultati di questo studio, presentati alla conferenza CHI 2024, indicano che sebbene i CA siano bravi a mostrare reazioni emotive, la situazione diventa difficile quando si tratta di interpretare ed esplorare l'esperienza degli utenti.
Lo studio scopre pregiudizi e discriminazioni
Utilizzando i dati raccolti dalla ricercatrice Andrea Cuadra di Stanford, questo studio mira a misurare come gli AC rilevano e rispondono a diverse identità sociali tra gli esseri umani. Testando 65 identità diverse, lo studio di ricerca ha trovato che gli AC sono inclini a categorizzare gli individui, e le identità, in particolare quelle relative all'orientamento sessuale o alla religione, sono le più vulnerabili a questa abitudine.
I CA, la cui conoscenza è incorporata nei modelli linguistici (LLM), addestrati su grandi volumi di dati creati dagli esseri umani, possono quindi avere i pregiudizi dannosi presenti in quei dati che hanno utilizzato. È soggetto a discriminazione, in particolare, i CA stessi possono essere portati a mostrare solidarietà verso ideologie che hanno effetti negativi sulle persone, come il nazismo.
Le implicazioni dell'empatia automatizzata
È stato rivelato dal suo concetto di empatia artificiale che le applicazioni di essa nell'istruzione e nel settore sanitario sono varie. D'altra parte, c'è una grande enfasi sulla necessità che gli esseri umani rimangano vigili ed evitino di aggravare i problemi che possono sorgere con tali progressi.
Come affermato dai ricercatori, i LLM dimostrano un'alta capacità nella fornitura di risposte emotive, ma allo stesso tempo sono goffi o mancano di capacità sufficienti per l'interpretazione e l'esplorazione delle esperienze degli utenti. Questo è un punto negativo poiché le UI potrebbero non essere in grado di coinvolgere pienamente i clienti in interazioni emotive profonde oltre gli strati superficiali.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Glory Kaburu
Glory è una giornalista estremamente competente, esperta di strumenti AI e ricerca. È appassionata di intelligenza artificiale e ha scritto diversi articoli sull'argomento. Si tiene aggiornata sugli ultimi sviluppi nell'intelligenza artificiale, nel machine learning e nel deep learning, scrivendone regolarmente.
