„Ernsthaft besorgniserregende“ Cybersicherheitsrisiken bedrohen Anthropics neueste, extrem leistungsfähige Modelle
- Dem Bericht zufolge zeigen geleakte Dokumente von Anthropic, dass sein neues Modell „einzigartige Cybersicherheitsrisiken
- Elon Musk reagierte schnell auf den Nachrichten auf X und nannte die Situation „ernsthaft besorgniserregend“.
- Musks xAI hat kürzlich eine kostenpflichtige Abonnementstufe für seinen Grok-Assistenten eingeführt und damit den kostenlosen Zugang eingeschränkt.
Berichten zufolge, die mit Fortune verknüpft sind, haben geleakte interne Dokumente von Anthropic die Existenz einer neuen Generation von KI-Modellen mit dem Codenamen „Claude Mythos“ enthüllt.
Die größere Schlagzeile ist jedoch, dass die neuen Modelle Berichten zufolge bereits in der Testphase sind, obwohl angenommen wird, dass sie „einzigartige Cybersicherheitsrisiken“ darstellen.
Anthropics Datenleck
Fortune hat kürzlich einen Bericht veröffentlicht, der geleakte Dokumente des KI-Unternehmens Anthropic enthält. Die Dokumente enthüllen Details über eine neue Generation von KI-Modellen, die reportedly mit dem Namen „Claude Mythos“ entwickelt werden.
Das Leck trat aufgrund eines menschlichen Fehlers in der Konfiguration von Anthropics Content-Management-System (CMS) auf. Roy Paz von LayerX Security und Alexandre Pauwels von der Universität Cambridge erklärten, dass Anthropic fast 3.000 unveröffentlichte Assets, einschließlich Bilder, PDFs, Audiodateien und Entwurfs-Blogbeiträge, in einem öffentlich zugänglichen und durchsuchbaren Data Lake hinterlassen hat.
Das Material war online auffindbar, bevor Fortune Anthropic benachrichtigte, woraufhin das Unternehmen den öffentlichen Zugang entfernte.
Die von Fortune eingesehenen Dokumente behaupten, dass Claude Mythos bereits in der Testphase ist. Wichtiger noch, sie besagen, dass Anthropic der Ansicht ist, dass dieses neue Modell „einzigartige Cybersicherheitsrisiken“ darstellt.
Anthropic erklärte in einem Entwurf eines Blogbeitrags, dass das System „derzeit jedem anderen KI-Modell in Bezug auf Cyber-Fähigkeiten weit voraus ist“ und warnte, dass „es eine kommende Welle von Modellen ankündigt, die Schwachstellen auf Weise ausnutzen können, die die Bemühungen der Verteidiger weit übertrifft.“
Aufgrund der potenziellen Risiken plante Anthropic eine vorsichtige Rollout-Strategie, die den frühen Zugang für Organisationen der Cybersicherheitsverteidigung priorisieren würde, um Verteidigern einen Vorsprung bei der Stärkung von Codebasen gegen KI-gesteuerte Exploits zu geben.
Anthropic hat zuvor berichtet, dass eine chinesische, staatlich unterstützte Gruppe Claude Code genutzt hat, um sich in etwa 30 Organisationen einzuschleusen, darunter Technologieunternehmen, Finanzinstitute und Regierungsbehörden, sodass die Sorge nicht unbegründet ist.
Die geleakten Dokumente enthüllten auch Details zu einem Einladung-only-CEO-Gipfel, der in einem Herrenhaus aus dem 18. Jahrhundert auf dem englischen Land geplant war, wo Anthropic-CEO Dario Amodei europäische Geschäftsführer empfangen sollte, um über die Einführung von KI zu diskutieren und unveröffentlichte Claude-Modellfähigkeiten vorzustellen.
Elon Musks anhaltender Kampf mit Anthropic
Sobald die Nachricht auf X bekannt wurde und erhebliche Aufmerksamkeit erregte, verpasste Elon Musk, der Besitzer von X und Leiter von xAI, einem direkten Konkurrenten von Anthropic, nicht die Gelegenheit, zur Nachricht zu kommentieren.
Musk kommentierte, „Ernsthaft besorgniserregend“, und gewann schnell zehntausende Aufrufe und tausende Likes.
Musk hat ein Muster darin, über negative Nachrichten über Konkurrenten zu kommentieren, mit denen er nicht einverstanden ist. Anthropic wurde von ehemaligen OpenAI-Mitarbeitern gegründet, und Musk war offen kritisch sowohl gegenüber OpenAI als auch gegenüber dem Ansatz der allgemeinen KI-Branche in Bezug auf Sicherheit und Kommerzialisierung.
In der Zwischenzeit hat Musks eigenes KI-Unternehmen, xAI, kürzlich eine neue kostenpflichtige Abonnementstufe namens „SuperGrok Lite“ eingeführt. Das Abonnement kostet 10 US-Dollar, und es wurden Beschränkungen für kostenlose Nutzer von Grok eingeführt, um sie zum Kauf dieses oder eines der drei anderen Abonnementpläne zu drängen, die Grok anbietet.
Dazu gehören SuperGrok, das 30 US-Dollar im Monat kostet, SuperGrok Heavy, das 300 US-Dollar im Monat kostet, und Grok Business, das ebenfalls 30 US-Dollar im Monat kostet.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.
