Warum Fachleute trotz zunehmender Nutzung KI und KI-Agenten immer noch nicht vertrauen – YouGov-Studie

Pegasystems Inc. (Pega) hat kürzlich die Ergebnisse einer neuen Studie veröffentlicht, die untersucht, wie Arbeitnehmer agentenbasierte KI wahrnehmen. Die gemeinsam mit YouGov durchgeführte Studie befragte über 2.100 Fachkräfte in den USA und Großbritannien, die digitale Geräte beruflich nutzen. 

Die Studie defi„KI-Agenten“ als Softwareprogramme oder Tools, die auf künstlicher Intelligenz basieren und bei verschiedenen Aufgaben helfen können, wie z. B. der Generierung von Inhalten, der Analyse von Daten, der Automatisierung sich wiederholender Prozesse oder der Abgabe von Empfehlungen. 

Laut der Studie hat zwar eine Mehrheit der Arbeitnehmer (57 %) Interesse an der Nutzung von KI-Agenten am Arbeitsplatz gezeigt, andere bleiben jedoch vorsichtig und äußern erhebliche Bedenken hinsichtlich Zuverlässigkeit und Qualität. 

Warum manche Fachleute KI-Agenten immer noch nicht vertrauen 

Einigen Berichten zufolge haben Fachleute in der Vergangenheit Misstrauen gegenüber KI geäußert und Bedenken hinsichtlich ihrer Zuverlässigkeit und Nachvollziehbarkeit geäußert. Agentische KI-Systeme treffen oft Entscheidungen, die schwer zu interpretieren sind und somit zu potenziellen Fehlern und Missverständnissen führen können. 

Auf die Frage, warum sie keine KI-Agenten einsetzen, äußerten 33 % der Fachkräfte Bedenken hinsichtlich der Qualität der von KI erzeugten Arbeit. 32 % befürchteten einen Mangel an menschlicher Intuition und emotionaler Intelligenz, und 30 % misstrauten der Genauigkeit der KI-generierten Antworten. 

Manche befürchten zudem, dass KI-Systeme den Entscheidungsprozess verschleiern und es Fachleuten erschweren, die Ergebnisse zu verstehen und ihnen zu vertrauen. Ein solcher Mangel an Transparenz kann die Fehlersuche behindern und den Innovationsfortschritt hemmen. 

Ein weiterer Grund, warum manche Experten agentenbasierter KI skeptisch gegenüberstehen, ist die mögliche Einschränkung der Lern- und Entwicklungsmöglichkeiten. Ihrer Ansicht nach erledigen KI-Agenten zwar die ihnen übertragenen Aufgaben effektiv, tun dies aber in der Regel ohne Erklärung.

Das bedeutet, dass Fachkräfte möglicherweise Lernmöglichkeiten verpassen, die sich aus der Beteiligung am kreativen Prozess ergeben. Das Endergebnis ist ein oberflächliches Verständnis der Aufgaben und eine verminderte Fähigkeit, sich im Laufe der Zeit zu verbessern oder Probleme zu beheben. 

Viele gelten als Experten, weil sie die wichtigsten Prozessschritte beherrschen, die für den Erfolg in ihrem Fachgebiet notwendig sind. Daher möchten viele Experten die Kontrolle und das Verständnis behalten, was jedoch schwieriger wird, wenn autonome KI-Systeme im Spiel sind. 

Daher stellt sich bei KI-Agenten die Frage, ob Fachkräfte das, was sie auszeichnet, für eine Automatisierung opfern werden, die keine vollständigen Ergebnisse garantiert und mit der Zeit die Erklärbarkeit untergräbt. 

Wie sich Fachleute, die KI-Agenten einsetzen, im Vergleich zu ihren skeptischen Kollegen schlagen. 

In jüngster Zeit setzen immer mehr Unternehmen auf agentenbasierte KI, was deren Potenzial zur Verbesserung von Abläufen und Produktivität unterstreicht. Laut einer Studie von Pegasytems gaben rund 58 % der befragten Arbeitnehmer an, bereits KI-Agenten einzusetzen. 

Diese Pioniere haben bereits von Vorteilen berichtet. Rund 41 % der Befragten nannten die Automatisierung von Routineaufgaben als Hauptvorteil, gefolgt von der reduzierten Zeit für die Suche nach berufsbezogenen Informationen (36 %) und der schnellen Zusammenfassung von Besprechungen (34 %). 

Trotz der aktuellen Einschränkungen und Bedenken glauben 46 % der Befragten, dass KI sich in den nächsten fünf Jahren positiv auf ihre Arbeit auswirken wird, und nur 13 % erwarten negative Folgen. Die übrigendentstanden dem Thema neutral gegenüber oder waren sich über die Auswirkungen von KI unsicher.

Wenn es um die Verbesserung dieser Agenten geht, haben diejenigen, die sie bereits verwenden, die Bereichedent, die ihrer Meinung nach mehr Aufmerksamkeit benötigen. 

42 % nannten höhere Genauigkeit und Zuverlässigkeit als oberste Priorität für die Verbesserung von KI-gestützten Tools. An zweiter Stelle standen bessere Schulungen zur Nutzung dieser Tools (39 %) und anschließend mehr Transparenz in KI-Entscheidungsprozessen (33 %). 

Die Studie zeigte, dass sich die Wahrnehmung von KI-Systemen und KI durch Fachleute insgesamt verbessert hat. Die Behebung derdentProbleme könnte die Akzeptanzrate jedoch weiter steigern.