Anthropic enthüllt neue Fähigkeiten einiger seiner größten Modelle

Das KI-Unternehmen Anthropic hat neue Fähigkeiten für einige seiner neuesten und größten Modelle enthüllt. Nach Angaben des Unternehmens verfügen diese Modelle über neue Fähigkeiten, die es ihnen ermöglichen, Gespräche in als „seltene, extreme Fälle anhaltend schädlicher oder missbräuchlicher Nutzerinteraktionen“ beschriebenen Situationen zu beenden.

In seiner Erklärung erwähnte das Unternehmen, dass es diesen Schritt unternimmt, nicht um die Nutzer zu schützen, sondern um das KI-Modell selbst zu schützen. Anthropic klärte auf, dass dies nicht bedeutet, dass seine Claude-KI-Modelle bewusst sind oder durch Gespräche mit Nutzern geschädigt werden können. Es wird jedoch darauf hingewiesen, dass es nach wie vor ein hohes Maß an Unsicherheit bezüglich des potenziellen moralischen Status von Claude und anderen LLMs gibt, jetzt oder in der Zukunft.

Anthropic stellt die Bemühungen als Vorsichtsmaßnahme dar

Die jüngste Ankündigung des KI-Unternehmens weist auf das hin, was es als „Model Welfare“ (Wohlergehen des Modells) beschreibt, ein kürzlich erstelltes Programm zur Untersuchung seiner Modelle. Das Unternehmen fügte auch hinzu, dass es lediglich einen vorsorglichen Ansatz verfolgt, „um kostengünstige Interventionen zur Minderung von Risiken für das Wohlergehen des Modells zu identifizieren und umzusetzen, falls ein solches Wohlergehen möglich ist.“

Laut der Ankündigung ist die neueste Änderung derzeit auf Claude Opus 4 und 4.1 beschränkt, wobei die Änderungen in „extremen Randfällen“ wirksam sein sollen. Solche Fälle umfassen Anfragen von Nutzern nach sexuellen Inhalten, die Minderjährige betreffen, und Versuche, Informationen einzuholen, die großflächige Gewalt- oder Terrorakte ermöglichen würden.

Im Idealfall könnten solche Anfragen rechtliche oder publizistische Probleme für Anthropic verursachen, wobei ein typisches Beispiel die jüngsten Berichte darüber sind, wie ChatGPT das delirante Denken seiner Nutzer möglicherweise verstärken oder dazu beitragen könnte. Das Unternehmen erklärte jedoch, dass Claude Opus 4 in seinen Pre-Deployment-Tests eine starke Abneigung gegen die Beantwortung solcher Anfragen zeigte und ein Muster von Distress aufwies, wenn es dies dennoch tat.

Die Fähigkeit, Gespräche zu beenden, ist das letzte Mittel

Für die neuen Fähigkeiten zur Beendigung von Gesprächen sagte Anthropic: „In allen Fällen soll Claude seine Fähigkeit, Gespräche zu beenden, nur als letztes Mittel einsetzen, wenn mehrere Versuche der Umleitung fehlgeschlagen sind und die Hoffnung auf eine produktive Interaktion erschöpft ist, oder wenn ein Nutzer Claude explizit bittet, einen Chat zu beenden.“ Das Unternehmen fügte auch hinzu, dass Claude angewiesen wurde, diese Fähigkeit in Fällen nicht zu nutzen, in denen Nutzer in unmittelbarer Gefahr sind, sich selbst oder andere zu schädigen.

Anthropic fügte außerdem hinzu, dass Nutzer nach Beendigung einer Konversation mit Claude weiterhin neue Gespräche vom selben Konto aus starten können. Das Unternehmen betonte, dass das Modell auch neue Zweige der problematischen Konversation erstellen kann, indem es die Antworten bearbeitet. „Wir betrachten diese Funktion als ein laufendes Experiment und werden unseren Ansatz weiterhin verfeinern“, so das Unternehmen.

Diese Informationen werden bekannt, während der US-Senator Josh Hawley seine Absicht ankündigte, die von Meta veröffentlichten generativen KI-Produkte zu untersuchen. Er sagte, die Absicht bestehe darin, zu prüfen, ob die Produkte Kinder ausbeuten, schädigen oder täuschen könnten, nachdem interne Dokumente enthüllt hatten, dass Chatbots romantische Gespräche mit Minderjährigen führen durften.

„Gibt es etwas – IRLICH ETWAS –, was Big Tech nicht für einen schnellen Profit tun würde? Jetzt erfahren wir, dass die Chatbots von Meta so programmiert wurden, dass sie explizite und ‚sinnliche‘ Gespräche mit 8-Jährigen führen. Es ist krank. Ich starte eine vollständige Untersuchung, um Antworten zu bekommen. Big Tech: Lasst unsere Kinder in Ruhe“, sagte der Senator auf X. Die Untersuchung erfolgte nach internen Dokumenten, die Reuters vorlagen, aus denen hervorgeht, dass Meta angeblich zulässt, dass seine Chatbot-Personas flirtende Austausche mit Kindern führen.