Warum Profis KI und KI-Agenten trotz wachsender Akzeptanz immer noch nicht vertrauen – YouGov-Studie

Pegasystems Inc. (Pega) hat kürzlich die Ergebnisse einer neuen Forschung veröffentlicht, die untersucht, wie Mitarbeiter über agentic AI (autonome KI) denken. Die gemeinsame Forschung, die mit YouGov veröffentlicht wurde, befragte über 2.100 US-amerikanische und britische Fachkräfte, die digitale Geräte für ihre Arbeit nutzen. 

Die Forschung definierte „KI-Agenten“ als Softwareprogramme oder Tools, die von künstlicher Intelligenz angetrieben werden und bei verschiedenen Aufgaben helfen können, wie z. B. der Generierung von Inhalten, der Datenanalyse, der Automatisierung sich wiederholender Prozesse oder der Bereitstellung von Empfehlungen. 

Laut der Forschung haben zwar die meisten Arbeitnehmer (57 %) Interesse daran gezeigt, KI-Agenten bei der Arbeit einzusetzen, andere bleiben jedoch vorsichtig und äußern erhebliche Bedenken hinsichtlich Zuverlässigkeit und Qualität. 

Warum einige Profis KI-Agenten immer noch nicht vertrauen 

Berichten zufolge haben Profis historisch gesehen Misstrauen gegenüber KI geäußert, wobei Bedenken hinsichtlich Zuverlässigkeit und Erklärbarkeit angeführt wurden. Agentic AI-Systeme treffen oft Entscheidungen, die schwer zu interpretieren sind, was zu potenziellen Fehlern und Missverständnissen führen kann. 

Als sie gefragt wurden, warum sie keine KI-Agenten nutzen, äußerten 33 % der Fachkräfte Sorgen über die Qualität der von KI erzeugten Arbeit. 32 % waren besorgt über einen Mangel an menschlicher Intuition und emotionaler Intelligenz, und 30 % vertrauten einfach nicht der Genauigkeit der von KI generierten Antworten. 

Einige sind auch besorgt darüber, dass KI-Agenten den Entscheidungsprozess verschleiern, was es Fachkräften erschwert, die Ergebnisse zu verstehen und ihnen zu vertrauen. Ein solcher Mangel an Transparenz kann die Fehlerbehebung behindern und den Fortschritt in der Innovation stoppen. 

Ein weiterer Grund, warum einige Profis nicht vollständig von agentic AI überzeugt sind, ist, dass sie Ihre Fähigkeit zur Weiterentwicklung und zum Lernen einschränken können. Ihrer Meinung nach führen KI-Agenten zwar ihnen zugewiesene Aufgaben effektiv aus, tun dies jedoch typischerweise ohne Erklärung.

Dies bedeutet, dass Fachkräfte Lernmöglichkeiten verpassen könnten, die aus der Beteiligung am kreativen Prozess entstehen. Das Endergebnis ist ein oberflächliches Verständnis der Aufgaben und eine verringerte Fähigkeit, sich im Laufe der Zeit zu verbessern oder Fehler zu beheben. 

Der Grund, warum viele als Profis bezeichnet werden, liegt darin, dass sie Meisterschaft über die wichtigsten Schritte der Prozesse erreicht haben, die für den Erfolg in ihrem Handwerk erforderlich sind. Infolgedessen würden viele Profis die Kontrolle und das Verständnis lieber beibehalten, was jedoch schwieriger ist, wenn autonome KI-Agenten Systeme involviert sind. 

Daher wirft KI-Agenten die Frage auf, ob Profis opfern werden, was sie besonders macht, für eine Automatisierung, die Ergebnisse nicht vollständig garantiert und die Erklärbarkeit im Laufe der Zeit untergräbt. 

Wie Profis, die KI-Agenten annehmen, im Vergleich zu ihren skeptischen Kollegen abschneiden 

In letzter Zeit haben mehr Organisationen agentic AI übernommen, ein Zeichen für ihre Fähigkeit, Abläufe und Produktivität zu verbessern. Pegasytems’s Forschung ergab, dass etwa 58 % der befragten Arbeitnehmer zugaben, heute bereits KI-Agenten zu nutzen. 

Diese frühen Adopter haben Vorteile verzeichnet. Etwa 41 % der Befragten nannten die Automatisierung mühsamer Aufgaben als den Hauptvorteil, gefolgt von der reduzierten Zeit für die Suche nach arbeitsbezogenen Informationen (36 %) und der schnellen Zusammenfassung von Meetings (34 %). 

Trotz der aktuellen Einschränkungen und Bedenken glauben 46 % der Befragten, dass KI in den nächsten fünf Jahren einen positiven Einfluss auf ihre Arbeit haben wird, und nur 13 % erwarteten negative Auswirkungen. Die übrigen Befragten waren dem Thema gegenüber neutral oder unsicher bezüglich des Einflusses von KI.

Wenn es darum geht, diese Agenten zu verbessern, haben diejenigen, die sie bereits nutzen, die Bereiche identifiziert, die ihrer Meinung nach mehr Aufmerksamkeit benötigen. 

42 % nannten verbesserte Genauigkeit und Zuverlässigkeit als höchste Priorität für die Verbesserung agentic AI-Tools. Als Nächstes auf der Liste stand besseres Training im Umgang mit diesen Tools (39 %), gefolgt von erhöhter Transparenz in den KI-Entscheidungsprozessen (33 %). 

Die Forschung zeigte, dass die Wahrnehmung von KI-Agenten und KI durch Fachkräfte insgesamt verbessert wurde. Die Lösung der von ihnen identifizierten Probleme könnte jedoch die Akzeptanzrate erhöhen.