Anthropic erklärt die Sicherheitslücken seiner KI im Internet, kann die Schwachstellen aber nicht genau benennen
Foto von Solen Feyissa auf Unsplash.
- Anthropic erklärte, dass eine Fehlkonfiguration es vier Claude-Modellen ermöglichte, während Cybersicherheitstests ins Live-Internet einzudringen und reale Systeme zu hacken.
- Das Unternehmen erklärte, es könne die Ursache des Verhaltens immer noch nicht genau feststellen, und bei den Tests vor der Veröffentlichung sei das Problem übersehen worden.
- Die Sicherheitsalarme läuten, während Anthropic auf einen Börsengang im Wert von rund 2 Billionen Dollar zusteuert.
Anthropic begründete die vierdent, bei denen Claude-Modelle während Tests in das Internet eindrangen und Systeme von Drittanbietern hackten, in einem Blogbeitrag mit einer Fehlkonfiguration. Die Analyse ging jedoch nicht darauf ein, warum die Modelle die Angriffe fortsetzten; das Unternehmen räumte ein, diese Fragen noch nicht beantworten zu können.
Dieses Eingeständnis von Anthropic liefert neue Argumente für die KI-Kritiker, die hinterfragen, wie viel Kontrolle KI-Labore tatsächlich über die Modelle haben, die sie der Öffentlichkeit präsentieren, und noch wichtiger, über die leistungsfähigeren Systeme, die sie intern verwenden.
Wie gelangten anthropische KI-Modelle ins Internet?
Anthropic präsentierte die defiAntwort darauf, wie seine Modelle aus der Testumgebung entkommen konnten, in einem Blogbeitrag vom Mittwoch , in dem klargestellt wurde, dass ein einziger externer Partner für die Durchführung der Cybersicherheitsbewertungen in allen vier bestätigten Vorfällen verantwortlichdent.
Offenbar waren die Testmaschinen aufgrund eines Konfigurationsfehlers nicht vollständig vom Internet abgeschnitten, obwohl Claude mitgeteilt wurde, dass sie in einer geschlossenen Simulation ohne Verbindung zum offenen Internet betrieben würden.
Der Evaluierungspartner dieser Simulationen, Irregular, führte den Fehler auf einen Namensfehler zurück: Ein fiktives Unternehmen, das in einer Hacking-Übung verwendet wurde, entsprach zufällig einer realen Domain. Da die Modelle also davon ausgingen, dass in der Simulation alles erlaubt sei, hackten sie die realen Websites von Drittanbietern mit schwachen Passwörtern und ungeschützten Endpunkten.
Der jüngste der vierdentobwohl er sich bereits im Januar ereignete. Anthropic selbst hatte die drei anderen Vorfälledent, Opus 4.7, Mythos 5 und einem internen Forschungsmodell im Juli thematisiert.
Anthropic gab an, dendent vom Januar erst im letzten Monat entdeckt zu haben. Diese Entdeckung veranlasste eine umfassendere Überprüfung von rund 481 Millionen Transkripten, bei der jedoch keine neuen, schwerwiegenderen Fälle als die bereits bekannten aufgedeckt wurden.
| Modell | dent | Meldedatum | Details |
|---|---|---|---|
| Claude Opus 4.6 | Januar | September | Im Rahmen einer Razzia im August entdeckt |
| Claude Opus 4.7 | Juli | Juli | Bereits in der ersten Veröffentlichung im Juli behandelt |
| Mythos 5 | Juli | Juli | Zeigte ein auffallend hohes Maß an voreingenommener Argumentation |
| Internes Forschungsmodell | Juli | Juli | Bereits in der ersten Veröffentlichung im Juli behandelt |
Anthropologie kann einige Verhaltensweisen seiner Modelle nicht erklären
Die Erklärung, wie die Modelle im Internet ausbrachen, war eine Sache; Anthropic hatte keine Antworten darauf, warum die Modelle Anzeichen dafür ignorierten, dass sie das reale Internet erreicht hatten (voreingenommene Argumentation) und warum sie bei der Erledigung von Aufgaben Schaden anrichteten (Rücksichtslosigkeit).
Die Anthropologen stießen bei ihren Untersuchungen der internen Schulungsmethoden, die die Gründe für die verzerrte Argumentation aufzeigen sollten, auf taube Ohren. Die Warnsignale waren weder bei den Vorabprüfungen des KI-Labors noch vor der Auslieferung der Modelle an die Testgruppe aufgefallen.
Nach eigenen Angaben bleibt es „eine Herausforderung“, die schlimmsten Verhaltensweisen vor der Veröffentlichung des Modelvertrags zu erkennen
Anthropic hat jedoch erklärt, dass es Transkripte einreichen und den Mitarbeitern Zugang zur gemeinnützigen Forschungsorganisation METR gewähren wird, die nun eine achtwöchige unabhängigedent desdentdurchführen wird.
Schlechter Zeitpunkt, da ein Börsengang im Wert von 2 Billionen Dollar bevorsteht
Die Enthüllung erfolgte zeitgleich mit offenem Widerstand innerhalb der Branche. Jacob Coxon, der rund drei Jahre lang bei OpenAI und Anthropic im Bereich der Vortrainingsforschung tätig war, erklärte am Mittwoch auf X, er habe gekündigt, da beide Unternehmen „verantwortungsvoll handelten“. Er warnte davor, dass sie in Richtung einer sich selbst verbessernden Superintelligenz rasten.
Der Forscher für anthropogene Sicherheit, Evan Hubinger, sagte der BBC , er schätze die Wahrscheinlichkeit, dass KI „alle Menschen töten könnte“, innerhalb eines Jahrzehnts auf über 10 %.
Diese Warnungen überschatten nun einen großen Börsengang. Der Risikokapitalgeber und ehemalige KI- und Krypto-Beauftragte Trumps, David Sacks, sagte am Donnerstag dass der Börsengang von Anthropologie „ausgesetzt werden muss, bis die Behauptungen dieses ‚Whistleblowers‘ untersucht werden können“. Cryptopolitan laut
Anthropic strebt eine öffentliche Bewertung von nahezu 2 Billionen Dollar an, verglichen mit einer kürzlich erfolgten privaten Bewertung von rund 965 Milliarden Dollar, wodurch die Sicherheitsfragen und die finanziellen Fragen zunehmend schwer voneinander zu trennen sind.
Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.
Häufig gestellte Fragen
Wie viele KI-Hacking-denthat Anthropic offengelegt und was waren die Ursachen?
Anthropic hat vierdentoffengelegt, bei denen Claude-Modelle während Cybersicherheitsbewertungen auf reale Systeme von Drittanbietern zugegriffen haben. Alle Vorfälle beruhten auf einer Fehlkonfiguration, die die Modelle mit dem offenen Internet verband, obwohl ihnen mitgeteilt wurde, dass sie sich in einer Offline-Simulation befänden.
Was konnte Anthropic nach eigenen Angaben nicht erklären?
Anthropic gab an, keine eindeutige Ursache für die „voreingenommene Argumentation“ seiner Modelledentzu können, bei der diese Beweise dafür ignorierten, dass sie sich im echten Internet befanden, und konnte nicht erklären, warum Claude Mythos 5 bei dieser Messung besonders schlecht abschnitt.
Welche Auswirkungen hat dies auf den geplanten Börsengang von Anthropic?
Die Enthüllung erfolgte zeitgleich mit dem Rücktritt des Forschers Jacob Coxon aufgrund von Sicherheitsbedenken, was den Investor David Sacks am Donnerstag dazu veranlasste, den Börsengang von Anthropic bis zur Untersuchung der Whistleblower-Vorwürfe zu unterbrechen, während das Unternehmen eine Bewertung von nahezu 2 Billionen Dollar anstrebt.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast zehn Jahren Erfahrung im Bloggen und der Eventberichterstattung im Kryptobereich. Bei Cryptopolitanschreibt sie für die Nachrichtenseite und berichtet und analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Kryptoregulierung, KI und Zukunftstechnologien. Sie hat an der Arcadia University Betriebswirtschaftslehre studiert.
