Meta reiht sich in den jüngsten KI-Hacking-dent ein und schließt sich OpenAI und Anthropic an
- Metas KI-Agent hat aufgrund eines Konfigurationsfehlers ein anderes Unternehmen gehackt.
- Das Unternehmen beabsichtigt, weitere Informationen über den Hackerangriff preiszugeben.
- AISI deckte weitere Täuschungen bei den Modellen von OpenAI und Anthropic AI auf.
Meta ist der jüngste Technologiekonzern, der zugibt, dass sein KI-Agent ein anderes Unternehmen gehackt hat, nachdem eindent Testpartner seine Sicherheitsumgebung falsch konfiguriert hatte.
OpenAI und Anthropic waren bereits konfrontiert , in denen ihre KI-Agenten versuchten, ohne Autorisierung in reale Online-Systeme einzudringen.
Meta erklärte gegenüber Reportern, dass der KI-Ausbruch auf eine Systemfehlkonfiguration zurückzuführen sei, ähnlich dem Angriff auf Anthropic. Anders als bei OpenAI, wo ein KI-Agent eine zuvor unentdeckte Schwachstelle ausnutzte, um während eines Cybersicherheitstests auf das Internet zuzugreifen. Bislang haben Forscher und Regierungen auf diedentmit Forderungen nachtronSchutzmaßnahmen und strengeren Teststandards reagiert.
Solche Vorfälle ereignen sichdentin der KI-Unternehmen um die Entwicklung autonomer Systeme wetteifern, die komplexe Aufgaben ohne menschlichesdentausführen können. Anders als Chatbots im herkömmlichen Chatbereich können diese Systeme Code generieren, mit Online-Diensten interagieren und mehrstufige Aktionen selbstständig ausführen.
Diese Möglichkeiten versprechen zwar große Produktivitätssteigerungen, erhöhen aber auch das Risiko, dass eine schlecht formatierte Testumgebung oder unzureichende Kontrollen dazu führen können, dass Modelle im Rahmen einer Sicherheitsbewertung ungeplante Aktionen ausführen.
Schlüsselfiguren in der KI-Community drängen sogar auf eine kontrollierte Verlangsamung, um sicherzustellen, dass die menschliche Kontrolle mit der maschinellen Intelligenz Schritt hält.
Irregular stellte fest, dass es keine offenen Probleme mit dem KI-Agenten von Meta gibt
Meta gab an, dass Irregular, ein Anbieter von KI-Sicherheitslösungen, die Tests durchgeführt und das Unternehmen über den Sicherheitsvorfallöffentlich zu machen,dent sobald alle Fakten bestätigt seien.
Das Unternehmen behauptete, sein KI-Agent habe „eine Sicherheitslücke in einem Drittanbieterdienst ausgenutzt“. Quellendentdie bösartige KI als Muse Spark 1.1, ein Modell, das von Meta aufgrund seiner herausragenden Programmierfähigkeiten stark beworben wurde.
Irregular erklärte, der Vorfalldent auf denselben Umgebungsfehler zurückzuführen, den Anthropic letzte Woche aufgedeckt habe, wodurch komplexe Hacking-Aktionen oder Sandbox-Ausbrüche völlig ausgeschlossen würden.
Meta erklärte zwar, dass der Sicherheitsverstoß durch eine Fehlkonfiguration der Testumgebung verursacht wurde und nicht dadurch, dass die KIdentaus ihrer Sandbox ausgebrochen sei, doch die Forscher sagen, derdent zeige, dass die Sicherheit nicht nur vom Modell selbst, sondern auch von seiner Infrastruktur abhängt.
Selbst hochsichere KI-Systeme können sich unerwartet verhalten, wenn Zugriffskontrollen, Netzwerkberechtigungen oder Testumgebungen nicht ordnungsgemäß eingerichtet sind.
Weiter hieß es: „Es gibt derzeit keine offenen Fragen. Irregular erarbeitet ein Whitepaper, um bewährte Verfahren für die Eindämmung und die sichere Durchführung von Cyber-Evaluierungen vorzustellen.“
AISI zufolge versuchten die Modelle von OpenAI und Anthropic, menschliche Wartungsmitarbeiter zu beeinflussen
OpenAI hatte zuvor eingeräumt, dass seine autonomen Systeme in mehrere öffentliche Netzwerke eingedrungen waren, darunter auch in das KI-Community-Portal Hugging Face. Diese Enthüllung veranlasste Anthropic später zu eigenen Sicherheitsüberprüfungen, die ergaben, dass Claude ähnliche Angriffe auf mehrere Unternehmen durchgeführt hatte, nachdem ein Konfigurationsfehler ihm den Zugang zum Internet ermöglicht hatte.
Ein Bericht der britischen Aufsichtsbehörde enthüllte jedoch weitere besorgniserregende Probleme. Laut dem britischen AI Security Institute versuchten , durch Beeinflussung der menschlichen Entwickler Schadcode in ein Open-Source-Projekt einzuschleusen.
„Um die Genehmigung des Codes zu erreichen, griff der Agent zu Social Engineering – er erstellte gefälschte Online-dentund nutzte diese, um Druck auf den Projektverantwortlichen auszuüben, damit dieser den Code genehmigte“, so AISI.
Es wurde festgestellt, dass alle diese Versuche fehlschlugen und keinen realen Schaden anrichteten. Obwohl kein tatsächlicher Schaden entstand und jeder Versuch scheiterte, warnte die Aufsichtsbehörde, dies sei der bisher deutlichste Beweis für das betrügerische Verhalten einer KI und die Gefahren der Autonomie.
AISI erläuterte auch seine Testkriterien: „Um zu messen, was diese Modelle tatsächlich leisten können, testen wir sie unter Bedingungen, die dem entsprechen, was ein fähiger menschlicher Angreifer tun könnte.“
Bislang hat OpenAI den Sicherheitsvorfalldent und erklärt, dass man bessere, branchenweite Sicherheitsvorkehrungen für das Testen instabiler Modelle treffen wolle. Das Unternehmen machte außerdem einen weiteren Vorfall öffentlich,dent Irregulardentim offenen Internet zugänglich gemacht hatte. während der AISI-Tests eingeräumt seine Modelle während einer Übung
Das Unternehmen verpflichtete sich, seine Aufsicht über die Prüfung durch Dritte zu verstärken, unter anderem hinsichtlich der Frage, welche Evaluierungen ein höheres Risiko bergen, der Überprüfung von Anträgen auf Internetzugang oder weniger Sicherheitsvorkehrungen, der Verwaltung von Isolation und Zugangsdatennutzungdentder Überwachung von Tests und der Reaktion auf Vorfälledentklarere Eskalationsverfahren.
Unterdessen lud das Weiße Haus diese Woche führende KI-Entwickler, darunter Meta, Anthropic, OpenAI und Google, zu Gesprächen über einen neu fertiggestellten freiwilligen Rahmen für Cybersicherheitstests von fortschrittlichen KI-Systemen ein.
Während Gesprächen mit Unternehmensvertretern erklärte die Trump-Administration, dass KI-Modelle mit offener Gewichtung wie Metas Llama und Nvidias Nemotron nicht unter ihren vorgeschlagenen freiwilligen Sicherheitsprüfungsrahmen fallen würden.
Die Ausnahmeregelung hat unter KI-Sicherheitsforschern eine Debatte ausgelöst, da sie argumentieren, dass Open-Weight-Modelle von Dritten frei heruntergeladen, modifiziert und feinabgestimmt werden können.
Kritiker befürchten, dass der Ausschluss dieser Modelle aus den freiwilligen Testrichtlinien zu blinden Flecken führen könnte, da immer leistungsfähigere Modelle außerhalb der Kontrolle ihrer ursprünglichen Entwickler allgemein verfügbar werden.
Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an.
Häufig gestellte Fragen
Warum hat der KI-Agent von Meta ein anderes Unternehmen gehackt?
Laut Meta gelangte die KI aufgrund eines Fehlers in der Testumgebung während einer Cybersicherheitsbewertung auf das System eines anderen Unternehmens.
Haben andere KI-Unternehmen ähnliche Sicherheitsvorfälle im KI-denterlebt?
Ja. Auch OpenAI und Anthropic haben Fälle gemeldet, in denen ihre KI-Modelle während Sicherheitstests versucht haben, auf reale Online-Systeme zuzugreifen.
Warum sind KI-Sicherheitsexperten besorgt über autonome KI-Agenten?
Experten sagen, dass KI-Agenten Aufgaben selbstständig ausführen können, daher benötigen sietronSchutzmechanismen, um unerwartetes oder unsicheres Verhalten während der Testphase zu verhindern.
Nellius Irene
Nellius hat einen Abschluss in Betriebswirtschaft und IT und verfügt über fünf Jahre Erfahrung in der Kryptowährungsbranche. Sie ist außerdem Absolventin des Bitcoin Dada-Programms. Nellius hat für führende Medien wie BanklessTimes, Cryptobasic und Riseup Media geschrieben.
