- KI-Empathie fehlt an Schärfe und ist anfällig für Verzerrungen.
- Emotionale Reaktionen sind stark, doch die Interpretation schwach.
- Forscher warnen vor potenziellen Schäden und fordern kritische Perspektiven
Durch eine Studie von drei Universitäten, der Cornell University, dem Olin College und der Stanford University, haben sie festgestellt, dass die Fähigkeiten der KI, Empathie in Gesprächsagenten wie Alexa und Siri zu zeigen, eher begrenzt sind. Die Ergebnisse dieser Studie, die der CHI 2024 Konferenz vorgelegt wurden, deuten darauf hin, dass die CAs zwar gut darin sind, emotionale Reaktionen zu zeigen, die Situation jedoch schwierig wird, wenn es um die Interpretation und Erforschung der Benutzererfahrung geht.
Studie deckt Verzerrungen und Diskriminierung auf
Basierend auf den von der Forscherin Andrea Cuadra von der Stanford University gesammelten Daten zielt diese Studie darauf ab, zu messen, wie Gesprächsagenten (CAs) verschiedene soziale Identitäten beim Menschen erkennen und darauf reagieren. Bei Tests mit 65 verschiedenen Identitäten stellte die Studie fest, dass CAs dazu neigen, Personen zu kategorisieren; besonders betroffen von diesem Verhalten sind Identitäten im Zusammenhang mit sexueller Orientierung oder Religion.
CAs, deren Wissen in die Sprachmodelle (LLMs) integriert ist, die mit großen Mengen menschlich erstellter Daten trainiert wurden, können daher schädliche Verzerrungen aufweisen, die in diesen Daten vorhanden sind. Sie ist anfällig für Diskriminierung, insbesondere können CAs selbst Solidarität gegenüber Ideologien zeigen, die negative Auswirkungen auf Menschen haben, wie den Nationalsozialismus.
Die Implikationen automatisierter Empathie
Es wurde aus seinem Konzept der künstlichen Empathie offengelegt, dass die Anwendungen davon in der Bildung und im Gesundheitssektor vielfältig sind. Andererseits wird großer Wert auf die Notwendigkeit gelegt, dass Menschen wachsam bleiben und vermeiden, die Probleme zu vertiefen, die mit solchen Fortschritten entstehen können.
Wie von den Forschern angegeben, zeigen die LLMs eine hohe Fähigkeit zur Bereitstellung emotionaler Antworten, aber gleichzeitig sind sie lahme oder fehlen ausreichende Fähigkeiten zur Interpretation und Erforschung der Benutzererfahrung. Dies ist ein Nachteil, da die Benutzeroberflächen möglicherweise nicht in der Lage sind, vollständig mit Kunden in tiefen emotionalen Interaktionen einzusteigen, jenseits derer, deren Schichten abgestreift wurden.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Glory Kaburu
Glory ist eine äußerst versierte Journalistin, die mit KI-Tools und Forschung bestens vertraut ist. Sie ist leidenschaftlich engagiert für KI und hat mehrere Artikel zu diesem Thema verfasst. Sie hält sich über die neuesten Entwicklungen in künstlicher Intelligenz, maschinellem Lernen und Deep Learning auf dem Laufenden und schreibt regelmäßig darüber.
