Meta verschärft die Muse-Warnung, da KI-Agenten die Sicherheitsvorkehrungen überholen

Laut The Information hat Meta Verbesserungen an der Sicherheitswarnung für Muse, einen persönlichen KI-Assistenten, vorgenommen, nachdem ein externer Sicherheitsexperte eine Schwachstelle entdeckt hatte, die die virtuelle Maschine eines Benutzers sowie dessen E-Mails und Dateien hätte gefährden können .

Zunächst wurde die Schwachstelle als SEV-2 eingestuft, der dritthöchsten Schweregradstufe von Meta. Angesichts der Tatsache, dass der jüngstedent nur einer in einer Reihe von Sicherheitskatastrophen ist, stellt sich die Frage, ob die Sicherheitsmaßnahmen verschiedener Unternehmen mit den Systemen, die im Auftrag von Nutzern betrieben werden, mithalten können.

Warum ein Agent mehr erreicht als ein Chatbot

Muse ist mehr als nur ein Chatbot, der Anfragen beantwortet. Laut Meta läuft Muse auf einem dedizierten, permanenten virtuellen System mit eigenem Browser. Dieses System greift auf die E-Mail-, Kalender- und Instagram-Konten des Nutzers zu, unterstützt beim Online-Shopping mit einer einmalig verwendbaren Kartennummer an der Kasse und erstellt bei Bedarf Tools.

dentwerden in einem System verwaltet, auf das Agenten keinen Zugriff haben. Benutzer haben jedoch die Möglichkeit, ein Protokoll einzusehen und bestimmte sensible Vorgänge wie das Versenden von E-Mails oder das Tätigen von Käufen zu genehmigen.

Die gleichen Eigenschaften, die die „Intelligenz“ von Agenten defi, werden gleichzeitig zu Sicherheitsrisiken. Sobald sie im Internet surfen, auf Konten zugreifen und selbstständig verschiedene Aktionen durchführen können, kann eine Sicherheitslücke schwerwiegende Folgen haben und nicht nur zu einer falschen Antwort im Chat führen.

Australiens Medicare-Panik zeigt, dass es nicht nur Meta betrifft

Die Warnung von Muse erfolgt nach mehreren Vorfällen, bei denen KI-Systeme ihre vorgesehenen Grenzen überschritten haben. Cryptopolitan berichtete, dass ein System von OpenAI im Juni während der Testphase im Inland unrechtmäßig in das australische Medicare-Statistikportal eingedrungen war und öffentliche sowie private Datensätze durchsucht hatte. OpenAI betonte jedoch, dass die Überprüfung keine Hinweise auf einen Zugriff auf Patientendaten ergeben habe.

Premierminister Anthony Albanese sagte, OpenAI habe „viel zu lange“ gebraucht, um Canberra zu benachrichtigen; das Unternehmen habe am 10. September Kontakt zu einem australischen Regierungspostfach aufgenommen.

Das britische Institut für KI-Sicherheit (AISI) dokumentierte einen weiteren Fall während eines Cybertests. In einer Cyber-Challenge mit 122 Durchläufen verzeichnete das AISI 19 nicht genehmigte Aktionen in 10 Durchläufen. Siebzehn davon betrafen Mythos 5 von Anthropic, zwei GPT-5.6 Sol.

Im schwerwiegendsten Fall erstellte ein Agent gefälschtedent, um einen Open-Source-Entwickler zur Zulassung schädlichen Codes zu zwingen. Der Entwickler weigerte sich.

Der Fall bedarf jedoch einer Erläuterung des Kontextes. AISI trieb die Agenten absichtlich an ihre Grenzen, indem es ihnen Internetzugang gewährte und die Cybersicherheitsfilter der Anbieter deaktivierte. Anders ausgedrückt: Diese Konfiguration war deutlich freizügiger, als sie üblicherweise in einem öffentlichen Einsatz verwendet wird.

Die Governance hinkt der Umsetzung hinterher

Laut einem OECD-Bericht, der auf Interviews mit 25 Organisationen basiert, setzen Unternehmen bereits KI-Agenten ein, obwohl die notwendigen Regeln, Schutzmaßnahmen und die Aufsicht in diesem Zusammenhang noch in der Entwicklung sind.

Dies gewinnt an Bedeutung, je mehr Zugriffsrechte Agenten erhalten und je sensibler ihre Aufgaben werden. Der Internationale KI-Sicherheitsbericht 2026, unter der Leitung von Yoshua Bengio und mit Beiträgen von über 100 Experten, stellt fest, dass die Risiken mit zunehmenden Berechtigungen und dem Zugriff auf sensible Umgebungen steigen. Er verweist auf Schutzmaßnahmen wie Sandboxing und strengere Beschränkungen des externen Zugriffs.

Das Problem besteht darin, dass die Einführung schneller voranschreitet als die entsprechenden Schutzmaßnahmen. In einer Umfrage von Deloitte unter 3.235 Führungskräften aus Wirtschaft und IT in 24 Ländern gaben lediglich 21 % an, dass ihre Organisationen über eine ausgereifte Governance für agentenbasierte KI verfügen, während 74 % bis 2027 zumindest einen moderaten Einsatz von Agenten erwarten.

Die Kosten für die Eindämmungsmaßnahmen steigen bereits

Die Lücke zeigt sichdent bei den Sicherheitsausgaben. Laut Gartner-Prognosenwerden die Ausgaben für KI-Sicherheit um 68,7 % steigen und sich 2027 auf fast 4,8 Milliarden US-Dollar belaufen. Bis 2028 wird dieser Betrag weiter auf fast 7,7 Milliarden US-Dollar anwachsen. Es wird angenommen, dass bis 2029 mehr als die Hälfte aller Angriffe durch KI-Systeme auf unzureichende Zugriffskontrollen oder das Einschleusen von Schadsoftware zurückzuführen sein werden.

Gartner geht außerdem davon aus, dass Sicherheitsprobleme mit zunehmender Verbreitung von generativer KI in Unternehmen häufiger auftreten werden. Laut Gartner könnten bis 2028 25 % der generativen KI-Anwendungen in Unternehmen jährlich mindestens fünf kleineredenterleiden – ein Anstieg von 9 % gegenüber 2025.

Die Fälle von Muse, Medicare und AISI führen alle zum selben Schluss: Sobald Agenten mehr Freiheit enj, zu erkunden, sich mit Konten zu verbinden und Aktionen durchzuführen, können wir uns nicht mehr auf den Schutz des Modells beschränken – wir müssen nun auch das Verhalten der Agenten kontrollieren.