„Ernsthaft beunruhigende“ Cybersicherheitsrisiken trüben die neuesten Super-tron-Modelle von Anthropic

Laut Berichten von Fortune haben durchgesickerte interne Dokumente von Anthropic die Existenz einer neuen Generation von KI-Modellen mit dem Codenamen „Claude Mythos“ enthüllt

Die wichtigere Schlagzeile lautet jedoch, dass sich die neuen Modelle angeblich bereits in der Testphase befinden, obwohl man davon ausgeht, dass sie „dentCybersicherheitsrisiken“ bergen

Datenleck bei Anthropics

Fortune veröffentlichte kürzlich einen Bericht mit durchgesickerten Dokumenten des KI-Unternehmens Anthropic. Die Dokumente enthüllen Details über eine neue Generation von KI-Modellen, die angeblich den Namen „Claude Mythos“ tragen.

Das Datenleck entstand durch einen menschlichen Fehler bei der Konfiguration des Content-Management-Systems (CMS) von Anthropic. Roy Paz von LayerX Security und Alexandre Pauwels von der Universität Cambridge erklärten, dass Anthropic fast 3.000 unveröffentlichte Dateien, darunter Bilder, PDFs, Audiodateien und Blog-Entwürfe, in einem öffentlich zugänglichen und durchsuchbaren Datenspeicher hinterlassen hatte. 

Das Material war online auffindbar, bevor Fortune Anthropic benachrichtigte, woraufhin das Unternehmen den öffentlichen Zugang entfernte.

Die von Fortune eingesehenen Dokumente belegen, dass sich Claude Mythos bereits in der Testphase befindet. Wichtiger noch: Sie geben an, dass Anthropic dieses neue Modell als „dentCybersicherheitsrisiko“ einstuft 

Anthropic erklärte in einem Blog-Entwurf, dass das System „derzeit allen anderen KI-Modellen in Bezug auf Cyberfähigkeiten weit voraus“ sei und warnte davor, dass „es eine kommende Welle von Modellen ankündigt, die Schwachstellen auf eine Weise ausnutzen können, die die Bemühungen der Verteidiger bei weitem übertrifft.“

Aufgrund der potenziellen Risiken plante Anthropic eine vorsichtige Einführungsstrategie, die den frühen Zugang für Cybersicherheitsverteidigungsorganisationen priorisieren sollte, um den Verteidigern einen Vorsprung bei der Stärkung der Codebasen gegen KI-gesteuerte Exploits zu verschaffen. 

Anthropic berichtete bereits zuvor, dass eine staatlich geförderte chinesische Gruppe den Claude-Code nutzte, um in etwa 30 Organisationen einzudringen, darunter Technologieunternehmen, Finanzinstitute und Regierungsbehörden. Die Besorgnis ist daher nicht unbegründet. 

Die durchgesickerten Dokumente enthüllten auch Details über einen CEO-Gipfel nur für geladene Gäste, der in einem Herrenhaus aus dem 18. Jahrhundert auf dem englischen Land geplant war. Dort sollte Anthropic-CEO Dario Amodei europäische Wirtschaftsführer empfangen, um über die Einführung von KI zu diskutieren und unveröffentlichte Funktionen des Claude-Modells vorzustellen.

Elon Musks fortgesetzter Kampf mit Anthropic 

Nachdem die Nachricht über X bekannt wurde und große Aufmerksamkeit erregte, ließ Elon Musk, der Eigentümer von X und Chef von xAI, einem direkten Konkurrenten von Anthropic, die Gelegenheit nicht aus, die Nachricht zu kommentieren. 

Musk kommentierte: „Ernsthaft beunruhigend“, und erreichte damit schnell Zehntausende von Aufrufen und Tausende von Likes. 

Musk kommentiert regelmäßig negative Nachrichten über Konkurrenten, mit denen er nicht übereinstimmt. Anthropic wurde von ehemaligen OpenAI-Mitarbeitern gegründet, und Musk hat sowohl OpenAI als auch die KI-Branche im Allgemeinen hinsichtlich Sicherheit und Kommerzialisierung offen kritisiert

Musks eigenes KI-Unternehmen xAIhat kürzlich ein neues kostenpflichtiges Abonnement namens „SuperGrok Lite“ eingeführt. Das Abonnement kostet 10 US-Dollar, und für kostenlose Grok-Nutzer wurden Beschränkungen eingeführt, um sie zum Kauf dieses oder eines der drei anderen von Grok angebotenen Abonnements zu bewegen. 

Dazu gehören SuperGrok, das 30 Dollar pro Monat kostet, SuperGrok Heavy, das 300 Dollar pro Monat kostet, und Grok Business, das ebenfalls 30 Dollar pro Monat kostet.