Meta verschärnt die Warnung zu Muse, da AI-Agenten die Sicherheitsvorkehrungen überholen
Foto von Dima Solomin auf Unsplash.
- Meta hat die Sicherheitswarnung für Muse verschärft, nachdem eine Sicherheitslücke im Agenten entdeckt wurde, wie The Information berichtete.
- Der Vorfall fügt sich in ein breiteres Muster ein: KI-Agenten erhalten schneller Zugriff auf Browser, Konten und externe Systeme, als Sicherheit und Governance reifen können – von einem OpenAI-Agenten, der auf Australiens Medicare-Portal zugreift, bis zu nicht genehmigten Aktionen, die vom britischen AI Security Institute protokolliert wurden.
- Für Unternehmen steigen die Risiken rapide: Die Governance ist nach wie vor unreif, und die Ausgaben für KI-Sicherheit werden voraussichtlich stark ansteigen, da wiederholte Ausfälle die Einführung in sensiblen Sektoren gefährden könnten.
Meta hat die Sicherheitswarnung im Zusammenhang mit Muse, einem persönlichen KI-Assistenten, verschärft, nachdem ein externer Sicherheitsexperte eine Schwachstelle entdeckt hatte, die die virtuelle Maschine eines Benutzers sowie dessen E-Mails und Dateien kompromittiert hätte, so The Information. The Information.
Ursprünglich wurde der Fehler mit der Klassifizierung SEV-2 eingestuft, was das dritthöchste Schweregradniveau von Meta ist. Angesichts des jüngsten Vorfalls, der nur einer von mehreren Sicherheitskatastrophen ist, stellt sich die Frage, ob die Sicherheitsmaßnahmen verschiedener Unternehmen mit den Systemen Schritt halten können, die im Namen der Benutzer ausgeführt werden dürfen.
Warum ein Agent weiter reicht als ein Chatbot
Muse ist mehr als nur ein Chatbot, der auf Anfragen antwortet. Laut Meta arbeitet Muse auf einem dedizierten und persistenten virtuellen System mit eigenem Browser. Diese Maschine greift auf die E-Mail-, Kalender- und Instagram-Konten ihres Nutzers zu, hilft beim Einkaufen mit einer Einweg-Kartennummer an der Kasse und erstellt Tools, wenn die Aufgabe dies erfordert.
Benutzerauthentifizierungsdaten werden in einem System gespeichert, das für Agenten unzugänglich ist. Benutzer haben jedoch Zugriff auf die Überprüfung einer Audit-Trail und können bestimmte sensible Vorgänge wie das Senden von E-Mails oder das tätigen von Käufen genehmigen.
Die gleichen Merkmale, die die „Intelligenz“ von Agenten definieren, werden zu Hindernissen für ihre Sicherheit. Sobald sie in der Lage sind, im Internet zu surfen, auf Konten zuzugreifen und eigenständig eine Reihe von Aktionen auszuführen, kann ein Sicherheitsvorfall zu realen Schäden führen und nicht nur zu einer falschen Antwort in einem Chat.
Australiens Medicare-Skandal zeigt: Es geht nicht nur um Meta
Die Warnung von Muse kommt nach mehreren Situationen, in denen KI-Agenten ihre vorgesehenen Grenzen überschritten haben. Cryptopolitan berichtete, dass ein Agent von OpenAI während der internen Testphase im Juni unrechtmäßig in Australiens Medicare Statistics Reporting Portal eingedrungen sei und öffentliche sowie private Datendateien durchsucht habe. OpenAI bestand jedoch darauf, dass seine Überprüfung keine Beweise dafür erbracht habe, dass Patientendaten eingesehen wurden.
Premierminister Anthony Albanese sagte, OpenAI habe „viel zu lange“ gebraucht, um Canberra zu benachrichtigen; das Unternehmen kontaktierte am 10. September eine E-Mail-Adresse der australischen Regierung.
Das britische AI Security Institute dokumentierte einen weiteren Fall während der Cyber-Tests. In einer Cyber-Herausforderung mit 122 Durchläufen verzeichnete das AISI 19 unautorisierte Aktionen in 10 Durchläufen. Siebzehn betrafen Anthropics Mythos 5, während zwei GPT-5.6 Sol betrafen.
In dem schwerwiegendsten Fall erstellte ein Agent falsche Identitäten, um einen Maintainer von Open--Source-Software dazu zu drängen, schädlichen Code zu erlauben. Der Maintainer lehnte dies ab.
Der Fall benötigt jedoch etwas Kontext. AISI schob die Agenten absichtlich an ihre Grenzen, gab ihnen Internetzugang und schaltete die Cybersicherheitsfilter der Anbieter ab. Mit anderen Worten, diese Konfiguration war permissiver als das, was normale Benutzer in einer öffentlichen Bereitstellung nutzen würden.
Die Governance hinkt der Einführung hinterher
Laut einem OECD-Bericht, der auf Interviews mit 25 Organisationen beruht, setzen Unternehmen bereits KI-Agenten ein, obwohl die dafür notwendigen Regeln, Schutzmaßnahmen und Aufsichtsmechanismen noch in der Entwicklung sind.
Das wird umso wichtiger, da Agenten mit breiterem Zugriff und sensibleren Aufgaben betraut werden. Der International AI Safety Report 2026, angeführt von Yoshua Bengio und mit Beiträgen von mehr als 100 Experten verfasst, besagt, dass die Risiken steigen, wenn Agenten mehr Berechtigungen und Zugriff auf sensible Umgebungen erhalten. Es weist auf Schutzmaßnahmen wie Sandboxing und strengere Grenzen für den externen Zugriff hin.
Das Problem besteht darin, dass die Adoption schneller voranschreitet als der Schutz dieser Maßnahmen. In Deloittes Umfrage unter 3.235 Geschäfts- und IT-Führungskräften aus 24 Ländern gaben nur 21 % an, dass ihre Organisationen über eine ausgereifte Governance für agentic AI verfügen, während 74 % damit rechnen, bis 2027 Agenten zumindest in moderatem Umfang zu nutzen.
Die Kosten für die Eindämmung steigen bereits
Die Lücke zeigt sich nun auch bei den Sicherheitsausgaben. Laut Gartens Prognosen wird die Ausgabe für AI-Sicherheit um 68,7 % steigen und 2027 fast 4,8 Milliarden US-Dollar betragen; dieser Betrag wird bis 2028 auf fast 7,7 Milliarden US-Dollar weiter ansteigen. Es wird erwartet, dass bis 2029 mehr als die Hälfte aller Angriffe durch AI-Agenten auf schlechte Zugriffskontrollen oder Prompt-Injektionen zurückzuführen sein werden.
Gartner erwartet auch, dass Sicherheitsprobleme häufiger auftreten, da mehr Unternehmen generative KI übernehmen. Es heißt, dass 25 % der unternehmensweiten generativen KI-Anwendungen bis 2028 mindestens fünf kleinere Sicherheitsvorfälle pro Jahr erleben könnten, ein Anstieg von 9 % im Vergleich zu 2025.
Die Fälle von Muse, Medicare und AISI führen alle zu derselben Schlussfolgerung: Sobald Agenten beginnen, mehr Freiheit zur Erkundung zu genießen, auf Konten zuzugreifen und Aktionen auszuführen, können wir uns nicht mehr nur auf den Schutz des Modells verlassen – wir müssen auch das Verhalten der Agenten kontrollieren.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Was hat Meta an Muse geändert?
Laut einem Bericht von The Information, zitiert von Channel NewsAsia am 25. September 2026, hat Meta die Sicherheitswarnung für Muse, seinen persönlichen KI-Agenten, verstärkt, nachdem eine Sicherheitslücke im Produkt entdeckt wurde.
Was kann Muse tatsächlich im Namen eines Nutzers tun?
Laut der Produktseite von Meta läuft Muse auf einer isolierten Linux-Maschine mit einem Browser, verbindet sich mit E-Mail, Kalender und Instagram, tätigt Käufe über eine Einmal-Kartennummer und kann eigene Tools erstellen, wobei es vor sensiblen Aktionen wie dem Senden von E-Mails oder dem Kauf von Artikeln um Erlaubnis fragt.
Wie stark wird der Markt für die Absicherung von KI voraussichtlich wachsen?
Gartner prognostiziert, dass der Markt für die Absicherung von KI bis 2027 fast 4,8 Milliarden US-Dollar erreichen wird – ein Anstieg von 68,7 % gegenüber 2026 –, und bis 2028 rund 7,7 Milliarden US-Dollar. Getrieben wird dies durch die dringende Notwendigkeit, KI-Systeme gegen neu auftretende Bedrohungen zu verteidigen.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Ibiam Wayas
Ibiam Wayas berichtet seit 2019 über Krypto-Nachrichten. Er studierte Informatik an der National Open University of Nigeria. Seine Arbeiten erschienen in verschiedenen Krypto-Nachrichtenplattformen, darunter Coinfomania, Crypto News Australia und AltcoinBuzz. Aufgrund seines Hintergrunds in der Informatik konzentriert er sich nun auf Nachrichten zu Kryptowährungen, Robotik und Langlebigkeit.
