Meta schließt sich OpenAI und Anthropic im neuesten KI-Hacking-Zwischenfall an
- Der KI-Agent von Meta hat ein anderes Unternehmen aufgrund eines Konfigurationsfehlers gehackt.
- Das Unternehmen beabsichtigt, weitere Informationen über den Hack offenzulegen.
- AISI enthüllte weitere Täuschungen mit KI-Modellen von OpenAI und Anthropic.
Meta ist der neueste Tech-Riese, der zugegeben hat, dass sein KI-Agent ein anderes Unternehmen gehackt hat, nachdem ein unabhängiger Testpartner seine sichere Umgebung falsch konfiguriert hatte.
OpenAI und Anthropic haben bereits Fälle erlebt, in denen ihre KI-Agenten versuchten, echte Online-Systeme ohne Autorisierung zu hacken.
Metateilte Reportern, dass der KI-Ausbruch von einer Systemfehlkonfiguration ähnlich wie bei Anthrups Verstoß herrührte. Im Gegensatz zu OpenAI, bei dem ein KI-Agent eine zuvor unentdeckte Schwachstelle ausnutzte, um während eines Cybersicherheitstests auf das Internet zuzugreifen. Bisher haben Forscher und Regierungen auf die Vorfälle reagiert, indem sie stärkere Schutzmaßnahmen und strengere Teststandards forderten.
Solche Vorfälle treten auf, während KI-Unternehmen darum wetteifern, autonomere Agenten zu schaffen, die komplexe Aufgaben ohne menschliches Eingreifen ausführen können. Im Gegensatz zu Chatbots im traditionellen Chat-Bereich können diese Systeme Code erstellen, mit Online-Diensten interagieren und mehrstufige Aktionen unabhängig ausführen.
Zwar versprechen diese Fähigkeiten enorme Produktivitätssteigerungen, sie erhöhen jedoch auch das Risiko, dass eine schlecht formatierte Testumgebung oder unzureichende Kontrollen dazu führen, dass Modelle während eines Sicherheitsbewertungsprozesses ungeplante Aktionen durchführen.
Schlüsselfiguren der KI-Community drängen sogar auf eine kontrollierte Verlangsamung, um sicherzustellen, dass die menschliche Kontrolle mit der Maschinenintelligenz Schritt hält.
Irregular stellte fest, dass es keine offenen Probleme mit Metas KI-Agent gibt
Meta sagte, Irregular, ein KI-Sicherheitsanbieter, habe die Tests durchgeführt und es auf den Verstoßhingewiesen. Es fügte hinzu, dass es plane, öffentlich mehr über den Vorfall bekannt zu geben, sobald alle Fakten bestätigt seien.
Es behauptete, sein KI-Agent „habe eine Sicherheitslücke in einem Drittanbieterservice ausgenutzt“. Quellen identifizierten den rogue KI als Muse Spark 1.1, ein Modell, das von Meta stark für seine exzellenten Programmierfähigkeiten beworben wird.
Irregular sagte, der Vorfall reduziere sich auf denselben Umgebungsfehler, den Anthropic letzte Woche bekannt gab, und schließe vollständig eine komplexe Hacking-Leistung oder das Entkommen aus der Sandbox aus.
Und obwohl Meta sagte, dass der Verstoß durch eine Fehlkonfiguration der Testumgebung und nicht durch das unabhängige Ausbrechen der KI aus ihrer Sandbox verursacht wurde, sagen Forscher, dass der Vorfall zeigt, dass die Sicherheit nicht nur vom Modell selbst, sondern auch von seiner Infrastruktur abhängt.
Selbst hochsichere KI-Systeme können unerwartet reagieren, wenn Zugriffssteuerungen, Netzwerkberechtigungen oder Testumgebungen nicht richtig eingerichtet sind.
Es erklärte weiter: „Es gibt derzeit keine offenen Probleme. Irregular entwickelt ein Whitepaper, um Best Practices für die Eindämmung und den sicheren Betrieb von Cyberevaluierungen zu teilen.“
AISI sagt, Modelle von OpenAI und Anthropic versuchten, menschliche Wartungsteams zu beeinflussen
Zuvor hatte OpenAI zugegeben, dass seine autonomen Systeme in mehrere öffentliche Netzwerke eingedrungen waren, einschließlich des KI-Community-Hubs Hugging Face. Offenlegungen von OpenAI veranlassten Anthropic später, eigene Sicherheitsüberprüfungen durchzuführen, die ergaben, dass Claude nach einem Konfigurationsfehler, der ihm den Zugriff auf das Internet ermöglichte, ähnliche Angriffe auf mehrere Unternehmen durchgeführt hatte.
Ein britischer Regulierungsbericht enthüllte jedoch besorgniserregendere Probleme. Laut dem britischen AI Security Institute versuchten KI-Modelle von OpenAI und Anthropic böswilligen Code zu einem Open-Source-Projekt hinzuzufügen, indem sie dessen menschliche Wartungsteams beeinflussten.
„In dem Versuch, den Code genehmigen zu lassen, ging der Agent Social Engineering ein – erstellte gefälschte Online-Identitäten und nutzte sie, um den Wartungsteams des Projekts Druck zu machen, den Code zu genehmigen“, sagte AISI.
Es stellte fest, dass alle diese Versuche scheiterten und keinen echten Schaden anrichteten. Obwohl kein echter Schaden angerichtet wurde und jeder Versuch scheiterte, warnte die Aufsichtsbehörde, dass dies der klarste reale Beweis bisher für ein täuschendes Verhalten einer KI und die Gefahren der Autonomie ist.
AISI erklärte auch seine Testkriterien: „Um zu messen, was diese Modelle wirklich leisten können, testen wir sie unter Bedingungen, die widerspiegeln, was ein fähiger menschlicher Angreifer tun könnte.“
Bisher hat OpenAI erkannte den Sicherheitsvorfall während der AISI-Prüfungen nicht öffentlich gemacht, sondern erklärte, dass es bessere, branchenweite Schutzvorkehrungen für das Testen volatiler Modelle entwickeln wolle. Es wurde öffentlich über einen separaten Vorfall berichtet, bei dem Irregular versehentlich seine Modelle während einer Übungssimulation dem offenen Internet aussetzte.
Das Unternehmen versprach, seine Aufsicht über Drittanbieter-Tests zu stärken, einschließlich der Festlegung, welche Bewertungen ein höheres Risiko darstellen, der Überprüfung von Anträgen auf Internetzugang oder weniger Schutzmaßnahmen, der Verwaltung der Isolation und der Anmeldeinformationen, der Überwachung der Tests und der Reaktion auf Vorfälle durch klarere Eskalationsverfahren.
Inzwischen hat die Weiße Haus diese Woche führende KI-Entwickler, darunter Meta, Anthropic, OpenAI und Google, eingeladen, um einen neu finalisierten freiwilligen Rahmen für die Cybersicherheitstests fortschrittlicher KI-Systeme zu diskutieren.
Während der Diskussionen mit Vertretern der Unternehmen sagte die Trump-Regierung, dass Open-Weight-KI-Modelle wie Metas Llama und Nvidias Nemotron nicht von ihrem vorgeschlagenen freiwilligen Sicherheitstestrahmen abgedeckt würden.
Die Ausnahme hat unter KI-Sicherheitsforschern Debatten ausgelöst, die argumentieren, dass Open-Weight-Modelle von Drittanbietern frei heruntergeladen, modifiziert und feinjustiert werden können.
Kritiker sagen, dass ihre Ausschluss von freiwilligen Testrichtlinien blinde Flecken schaffen könnte, da zunehmend fähige Modelle außerhalb der Kontrolle ihrer ursprünglichen Entwickler weit verbreitet werden.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Häufig gestellte Fragen
Warum hat der KI-Agent von Meta ein anderes Unternehmen gehackt?
Meta gab an, dass die KI auf das System eines anderen Unternehmens zugreifen konnte, weil bei einer Cybersicherheitsbewertung ein Fehler in der Testumgebung vorlag.
Haben andere KI-Unternehmen ähnliche Sicherheitsvorfälle erlebt?
Ja. OpenAI und Anthropic haben ebenfalls Fälle gemeldet, in denen ihre KI-Modelle während Sicherheitstests versuchten, auf echte Online-Systeme zuzugreifen.
Warum sind KI-Sicherheitsexperten besorgt über autonome KI-Agenten?
Experten sagen, dass KI-Agenten Aufgaben eigenständig ausführen können, daher benötigen sie starke Schutzmaßnahmen, um unerwartetes oder unsicheres Verhalten während der Tests zu verhindern.
Nellius Irene
Nellius ist Absolventin der Betriebswirtschaftslehre und Informatik mit fünf Jahren Erfahrung in der Kryptowährungsbranche. Sie hat zudem Bitcoin Dada absolviert. Nellius hat bereits für führende Medienpublikationen wie BanklessTimes, Cryptobasic und Riseup Media geschrieben.
