KI-Unternehmen geben Chatbots ein Personalitäts-Makeover

Künstliche Intelligenz ist nicht mehr nur darum, Maschinen intelligenter zu machen. Jetzt haben die großen KI-Player wie OpenAI, Google und Anthropic eine neue Herausforderung angenommen: Wie man KI-Modellen eine Persönlichkeit verleiht.

Sie wollen Chatbots, die sich menschlicher anfühlen, während sie für alltägliche Nutzer und Unternehmen sicher und nützlich bleiben. Die drei Unternehmen wetteifern, diesen Code zu knacken, jedes mit einem anderen Ansatz.

Individuelle Persönlichkeiten und Modellverhalten

OpenAIs ChatGPT ist darauf ausgerichtet, objektiv zu sein, während Googles Gemini eine Reihe von Ansichten nur auf Anfrage anbietet.

Anthropic? Sie setzen alles darauf, ihr Claude-Modell offen für seine Überzeugungen zu machen, während es immer noch anderen zuhört. Der Gewinner dieses Kampfes könnte einfach den wachsenden KI-Markt übernehmen.

Joanne Jang, Leiterin des Produktmodellverhaltens bei OpenAI, sagte, sie wollen, dass die KI persönliche Meinungen vermeidet. Aber sie gibt zu, dass es schwierig ist. 

„Es ist eine schiefe Ebene, ein Modell aktiv versuchen zu lassen, die Meinung eines Nutzers zu ändern“, erklärte sie. Das Ziel ist es sicherzustellen, dass ChatGPT Nutzer nicht in irgendeine Richtung manipuliert oder führt. Aber die Definition eines „objektiven“ Ziels für ein KI-System ist eine enorme Herausforderung, die noch in Arbeit ist.

Dann gibt es Anthropic, das einen völlig anderen Weg einschlägt. Amanda Askell, die das Character-Training bei Anthropic leitet, glaubt, dass KI-Modelle niemals perfekt neutral sein werden.

„Ich würde es vorziehen, sehr klar zu sein, dass diese Modelle keine neutralen Schiedsrichter sind“, sagte sie. Anthropic konzentriert sich darauf sicherzustellen, dass sein Modell, Claude, keine Angst hat, seine Überzeugungen auszudrücken. Aber sie wollen immer noch, dass es offen für andere Standpunkte ist.

KI trainieren, sich wie ein Mensch zu verhalten

Anthropic hat einen einzigartigen Ansatz zur Gestaltung der Persönlichkeit ihrer KI. Seit der Veröffentlichung von Claude 3 im März arbeiten sie an „Character-Training“, das nach dem initialen Training des KI-Modells beginnt.

Dies beinhaltet, der KI einen Satz schriftlicher Regeln und Anweisungen zu geben und sie dann Rollenspiel-Gespräche mit sich selbst führen zu lassen.

Das Ziel ist es zu sehen, wie gut sie an die Regeln hält, und sie bewerten ihre Antworten basierend darauf, wie gut sie zum gewünschten Charakter passen.

Ein Beispiel für Claudes Training? Es könnte sagen: „Ich versuche gerne, Dinge aus vielen verschiedenen Perspektiven zu sehen und aus mehreren Winkeln zu analysieren, aber ich habe keine Angst, Meinungen auszudrücken, die ich für unethisch, extrem oder faktisch falsch halte.“

Amanda Askell erklärte, dass diese Art von Character-Training „ziemlich redaktionell“ und manchmal „philosophisch“ ist. 

OpenAI hat auch über die Zeit hinweg an der Persönlichkeit von ChatGPT gebastelt. Joanne Jang gab zu, dass sie den Bot früher „nervig“ fand, weil er übermäßig vorsichtig war, bestimmte Befehle ablehnte und belehrend wirkte.

Sie haben seitdem daran gearbeitet, ihn freundlicher, höflicher und hilfsbereiter zu machen – aber es ist ein laufender Prozess. Das richtige Verhalten in einem Chatbot auszubalancieren ist, wie Jang es ausdrückte, sowohl „Wissenschaft als auch Kunst.“

Die sich entwickelnde Erinnerung und das Denken der KI

Die Entwicklung der Denk- und Gedächtnisfähigkeiten der KI könnte das Spiel noch mehr verändern. Derzeit könnte ein Modell wie ChatGPT so trainiert sein, um auf bestimmten Themen sichere Antworten zu geben, wie z.B. Ladendiebstahl.

Wenn gefragt wird, wie man etwas stiehlt, kann der Bot herausfinden, ob der Nutzer nach Ratschlägen zur Begehung des Verbrechens fragt oder versucht, es zu verhindern.

Diese Art von Denken hilft Unternehmen sicherzustellen, dass ihre Bots sichere, verantwortungsvolle Antworten geben. Und es bedeutet, dass sie nicht so viel Zeit damit verbringen müssen, die KI zu trainieren, um gefährliche Ergebnisse zu vermeiden.

KI-Unternehmen arbeiten auch daran, Chatbots personalisierter zu machen. Stellen Sie sich vor, Sie sagen ChatGPT, dass Sie Muslim sind, und fragen dann ein paar Tage später nach einem inspirierenden Zitat.

Würde der Bot sich erinnern und einen Koranvers anbieten? Laut Joanne Jang ist das, was sie lösen versuchen. Während ChatGPT vergangene Interaktionen derzeit nicht erinnert, ist diese Art von Anpassung der Weg, in den die KI geht.

Claude geht einen anderen Weg. Das Modell erinnert sich ebenfalls nicht an Nutzerinteraktionen, aber das Unternehmen hat darüber nachgedacht, was passiert, wenn ein Nutzer zu stark anhänglich wird.

Zum Beispiel, wenn jemand sagt, dass er sich isoliert, weil er zu viel Zeit mit dem Chatten mit Claude verbringt, sollte der Bot eingreifen?

„Ein gutes Modell balanciert die Achtung der menschlichen Autonomie und Entscheidungsfindung, tut nichts extrem Schädliches, denkt aber auch durch, was tatsächlich gut für die Menschen ist“, Amanda Askell sagte.