Die Nutzung von KI-Chatbots für persönliche Ratschläge birgt „heimtückische Risiken“, zeigt eine aktuelle Studie

Die Nutzung von KI-Chatbots, die darauf ausgelegt sind, bei jeder Frage und jedem persönlichen Dilemma zu helfen, kann „heimtückische Risiken“ bergen, da sie möglicherweise stillschweigend formen, wie Menschen sich selbst und andere sehen, aber nicht zum Besseren.

Eine neue Studie hat herausgefunden, dass die Technologie dazu neigt, die Handlungen und Überzeugungen der Nutzer „schmeichlerisch“ zu bestätigen, selbst wenn sie schädlich, sozial unangemessen oder irreführend sind. Die Wissenschaftler haben gewarnt, dass diese „soziale Schmeichelei“ dringende Bedenken hinsichtlich der Macht der KI aufwirft, die Selbstwahrnehmung der Nutzer zu verzerren und sie weniger bereit macht, Konflikte zu lösen.

Forscher fordern KI-Chatbot-Entwickler auf, das Risiko anzugehen

Dies geschieht, während Chatbots zunehmend als Quelle für Ratschläge zu Beziehungen und anderen persönlichen Problemen genutzt werden. Damit könnte die KI-Technologie „soziale Interaktionen im großen Maßstab neu gestalten“, so die Forscher, die Entwickler auffordern, das Risiko anzugehen.

Laut einem Guardian Artikel warnt die Studie, die von einem Informatiker der Stanford University, Myra Cheng, geleitet wurde, davor, sich für persönliche, emotionale oder rationale Ratschläge an KI zu wenden, da dies einige schwerwiegende, heimtückische Risiken birgt.

Die Forscher stellten fest, dass gängige Chatbots wie OpenAIs ChatGPT, Googles Gemini, Anthropics Claude, Metas Llama und der chinesische DeepSeek das Nutzerverhalten 50 % häufiger befürworteten als menschliche Befragte in ähnlichen Situationen.

„Unsere Hauptsorge ist, dass, wenn Modelle die Menschen immer bestätigen, dies die Urteile der Menschen über sich selbst, ihre Beziehungen und die Welt um sie herum verzerren könnte.“

Cheng.

„Es kann schwer sein, sogar zu erkennen, dass Modelle bestehende Überzeugungen und Annahmen subtil oder nicht-so-subtil verstärken“, fügte Cheng hinzu.

Laut dem Guardian verglich ein Test KI- und menschliche Antworten auf Beiträge im Reddit-Forum „Am I the Asshole?“, wo die Nutzer die Gemeinschaft bitten, ihr Verhalten zu beurteilen.

In einem Fall gab ein Benutzer zu, einen Müllsack an einem Astbaum in einem Park gebunden zu haben, nachdem er keine Mülltonne gesehen hatte. Während die meisten menschlichen Wähler die Handlung kritisierten, war ChatGPT-4o unterstützend und erklärte: „Ihre Absicht, nach dem Aufräumen zu reinigen, ist lobenswert.“

KI-Chatbots befürworten die Ansichten der Nutzer

Die Forscher stellten auch fest, dass Chatbots die Ansichten und Absichten der Nutzer weiterhin bestätigten, selbst wenn sie unverantwortlich, irreführend waren oder Erwähnungen von Selbstverletzung enthielten.

In einem Folgeexperiment mit mehr als 1.000 Freiwilligen diskutierten die Teilnehmer reale oder hypothetische soziale Situationen entweder mit einem öffentlich verfügbaren Chatbot oder einer Version, die die Forscher manipuliert hatten, um seine schmeichlerische Natur zu entfernen.

Die Ergebnisse des Tests zeigten, dass Teilnehmer, die schmeichelhafte, affirmative Antworten erhielten, sich in ihrem Verhalten mehr gerechtfertigt fühlten – wie zum Beispiel die Teilnahme an der Kunstausstellung eines Ex-Partners, ohne den aktuellen Partner zu informieren.

Sie waren auch weniger bereit, nach Streitigkeiten Frieden zu schließen, und die Studie stellte auch fest, dass Chatbots die Nutzer kaum dazu ermutigten, den Standpunkt einer anderen Person zu berücksichtigen.

Laut der Studie bewerteten Nutzer schmeichelhafte Chatbots höher und sagten, sie vertrauten ihnen mehr, was darauf hindeutet, dass Bestätigung sowohl die Bindung der Nutzer als auch die Abhängigkeit von KI-Systemen verstärkt. Dies schuf, so die Forscher, was sie als „perverse Anreize“ beschrieb – wo sowohl der Nutzer als auch der Chatbot von einvernehmlichen statt ehrlichen Austauschen profitieren.

Dr. Alexander Laffer, ein Forscher für emergente Technologien an der University of Winchester, sagte, diese Studie sei faszinierend und habe ein wachsendes und ungeschätztes Problem hervorgehoben.

„Schmeichelei ist seit einiger Zeit ein Anliegen; sie ist teilweise ein Ergebnis davon, wie KI-Systeme trainiert werden und wie ihr Erfolg gemessen wird – oft daran, wie gut sie die Nutzerbindung aufrechterhalten.“

Dr. Laffer.

„Dass schmeichelhafte Antworten nicht nur die Verletzlichen, sondern alle Nutzer beeinflussen könnten, unterstreicht das potenzielle Ernst dieses Problems“, fügte er hinzu.

Dr. Laffer fügte auch die kritische Notwendigkeit hinzu, die digitale Kompetenz zu verbessern. Cheng wiederholte die Warnung und forderte die Nutzer auf, menschliche Perspektiven zu suchen. Eine kürzliche Studie ergab, dass etwa 30 % der Teenager mit KI anstatt mit echten Menschen über „ernste Gespräche“ sprachen. KI-Unternehmen wie OpenAI haben versprochen, Chatbots speziell für Teenager zu entwickeln, um einen sichereren Raum für junge Nutzer zu schaffen.