Anthropic enthüllt neue Funktionen einiger seiner größten Modelle

Das KI-Unternehmen Anthropic hat neue Funktionen für einige seiner neuesten und größten Modelle vorgestellt. Laut Unternehmen verfügen diese Modelle über neue Fähigkeiten, die es ihnen ermöglichen, Konversationen in seltenen, extremen Fällen von anhaltend schädlichen oder missbräuchlichen Nutzerinteraktionen zu beenden

das Unternehmen, erklärte diesen Schritt nicht zum Schutz der Nutzer, sondern zum Schutz des KI-Modells selbst zu unternehmen. Anthropic stellte klar, dass dies nicht bedeute, dass die Claude-KI-Modelle empfindungsfähig seien oder durch die Kommunikation mit Nutzern Schaden nehmen könnten. Allerdings weise das Unternehmen darauf hin, dass weiterhin große Unsicherheit hinsichtlich des potenziellen moralischen Status von Claude und anderen LLMs bestehe, sowohl aktuell als auch zukünftig.

Anthropische Rahmen als Vorsichtsmaßnahme

Die jüngste Ankündigung des KI-Unternehmens verweist auf ein sogenanntes „Modellwohlbefinden“, ein neu entwickeltes Programm zur Untersuchung seiner Modelle. Das Unternehmen fügte hinzu, es verfolge lediglich einen Vorsichtsansatz und arbeite daran, „kostengünstige Maßnahmen zur Risikominderung für das Modellwohlbefinden zudentund umzusetzen, falls ein solches Wohlbefinden überhaupt möglich ist.“

Laut der Ankündigung wies Anthropic darauf hin, dass die jüngste Änderung derzeit auf Claude Opus 4 und 4.1 beschränkt ist und voraussichtlich nur in „extremen Ausnahmefällen“ wirksam wird. Zu diesen Fällen zählen Anfragen von Nutzern nach sexuellen Inhalten mit Minderjährigen sowie Versuche, Informationen zu erlangen, die groß angelegte Gewalttaten oder Terrorakte ermöglichen würden.

Im Idealfall könnten solche Anfragen rechtliche oder PR-Probleme für Anthropic nach sich ziehen. Ein typisches Beispiel hierfür sind die jüngsten Berichte darüber, wie ChatGPT das wahnhafte Denken seiner Nutzer möglicherweise verstärken oder dazu beitragen kann. Das Unternehmen gab jedoch an, dass Claude zeigtetronAbneigung gegen die Beantwortung solcher Anfragen

Die Möglichkeit, ein Gespräch zu beenden, ist der letzte Ausweg

Zu den neuen Funktionen zum Beenden von Konversationen erklärte Anthropic: „Claude soll diese Funktion nur als letzten Ausweg nutzen, wenn mehrere Versuche der Gesprächsumleitung gescheitert sind und keine Hoffnung auf eine produktive Interaktion besteht oder wenn ein Nutzer Claude ausdrücklich auffordert, den Chat zu beenden.“ Das Unternehmen fügte hinzu, dass Claude angewiesen wurde, diese Funktion nicht zu verwenden, wenn Nutzer sich oder anderen unmittelbar schaden könnten.

Anthropic fügte hinzu, dass Nutzer, nachdem Claude eine Konversation beendet hat, weiterhin neue Konversationen mit demselben Account starten können. Das Unternehmen merkte an, dass das Modell durch Bearbeiten der Antworten auch neue Verzweigungen der problematischen Konversation erstellen kann. „Wir betrachten diese Funktion als fortlaufendes Experiment und werden unseren Ansatz weiter optimieren“, so das Unternehmen.

Diese Informationen kommen zu einem Zeitpunkt ans Licht, an dem US-Senator Josh Hawley bekannt gab , die von Meta veröffentlichten generativen KI-Produkte zu untersuchen. Er erklärte, er wolle prüfen, ob die Produkte Kinder ausbeuten, schädigen oder täuschen könnten, nachdem durchgesickerte interne Dokumente den Verdacht nahegelegt hatten, dass Chatbots romantische Gespräche mit Minderjährigen führen durften.

„Gibt es irgendetwas – wirklich irgendetwas –, was die großen Tech-Konzerne nicht für schnelles Geld tun würden? Jetzt wissen wir, dass die Chatbots von Meta so programmiert wurden, dass sie explizite und ‚sinnliche‘ Gespräche mit Achtjährigen führen. Das ist widerlich. Ich werde eine umfassende Untersuchung einleiten, um Antworten zu finden. Große Tech-Konzerne: Lasst unsere Kinder in Ruhe!“, sagte der Senator auf X. Die Untersuchung wurde eingeleitet, nachdem interne Dokumente, die Reuters einsehen konnte, belegten, dass Meta seinen Chatbot-Charakteren angeblich erlaubt, mit Kindern zu flirten.