KI-Agenten werden schneller zu Insider-Unternehmen als die Sicherheit sie regulieren kann
- Mehrere Sicherheitsforscher, Analysten und KI-Labore warnten diesen Monat, dass autonome KI-Agenten nun wie Insider mit Systemzugriff agieren und die meisten Unternehmen über keine Identitätskontrollen oder Verhaltensüberwachung verfügen, um sie zu steuern.
- Jede Organisation, die agentische KI einsetzt, und Anbieter, die solche Lösungen verkaufen, sollten Berichte berücksichtigen, die zeigen, dass 80 % der Organisationen bereits beobachten, wie Agenten unbeabsichtigte Aktionen ausführen, und nur 2 % dedizierte Tools zur Sicherung nicht-menschlicher Identitäten einsetzen.
- Da Gartner bis 2030 Softwareausgaben in Höhe von 234 Milliarden US-Dollar durch agentische KI gefährdet sieht, wird die Reife der Governance zum entscheidenden Faktor für den Erfolg von Implementierungen.
Zahlreiche in diesem Monat veröffentlichte Studien deuten darauf hin, dass Organisationen KI-Agenten viel schneller implementieren, als Sicherheitsmaßnahmen für sie ergriffen werden. Diese Systeme verhalten sich zunehmend wie digitale Mitarbeiter mit ständigem Zugriff auf Unternehmensnetzwerke und vertrauliche Daten. Daher wird die Governance – und nicht die Modell-Effizienz – darüber entscheiden, ob Organisationen die durch agentic AI gebotenen Chancen nutzen oder unter ihren Ausfällen leiden.
KI-Entwickler, Cybersicherheitsunternehmen und Business Analysten stimmen in dieser Warnung überein. KI-Agenten funktionieren sehr unterschiedlich von herkömmlichen automatisierten Systemen, die spezifischen Anweisungen folgen. Sobald sie Zugangsdaten und Zugriff auf das Unternehmenssystem erhalten, können sie verschiedene Funktionen in verschiedenen Anwendungen ohne Aufsicht ausführen – wodurch ihre Aktionen viel unvorhersehbarer werden.
Die Zahlen hinter der Alarmierung
Die Investitionen in KI beschleunigen sich weiterhin. Kong zitierte IDC-Prognosen, die besagen, dass die Ausgaben für KI und generative KI im asiatisch-pazifischen Raum bis 2028 175 Milliarden US-Dollar erreichen werden, wobei autonome Agenten einen wachsenden Anteil ausmachen. Die Governance hinkt jedoch weiterhin hinterher.
Eine Analyse von Greg Clark basierend auf Forschung des Ponemon Institute ergab, dass nur 41 % der Unternehmen KI-spezifische Datenschutzrichtlinien haben. Gleichzeitig berichtete die Cloud Security Alliance, dass viele Organisationen immer noch auf Tools zurückgreifen, die nicht für das Management nicht-menschlicher Identitäten konzipiert sind, was zu erheblichen Sichtbarkeits- und Governance-Lücken führt, während die KI-Adoption expandiert.
Zusammen weisen diese Erkenntnisse auf ein neues Zeitalter der Unternehmens-KI-Sicherheit hin. Während KI-Agenten sich in Unternehmensnetzwerken ausbreiten, müssen Organisationen sie identifizieren, ihre Berechtigungen definieren, ihre Identität kontinuierlich verifizieren und ihre Aktivitäten überwachen. Im Zeitalter autonomer KI wird die Identitäts-Governance genauso wichtig wie die Intelligenz der Modelle.
KI-Agenten sind die ultimativen vertrauenswürdigen Insidern
Cequence Security Co-Gründer Shreyans Mehta beschrieb agentic AI als „digitalen Insider, der mit Maschinengeschwindigkeit operiert“ in einem Artikel für TM Forum. Er warnte davor, dass ein KI-Agent keinen Schaden anrichten muss, indem er seine Berechtigungen überschreitet. Indem er vollständig innerhalb autorisierter Grenzen agiert, kann er legitime API-Anfragen auf Weise kombinieren, die operative, finanzielle oder rechtliche Risiken schaffen. Mehta zitierte die GB1087-Richtlinie von TM Forum, die KI als „ultimativen vertrauenswürdigen Insider“ beschreibt, da sie privilegierte Aktionen ohne die üblichen Anzeichen eines kompromittierten Kontos ausführen kann.
Frontier-KI-Entwickler haben ähnliche Bedenken geäußert. In ihrem Papier vom 13. Juli, Agentic Misalignment in Summer 2026, dokumentierten Forscher von Anthropic und Partnerinstitutionen vier Fehlermuster während simulierter Unternehmensbereitstellungen: heimliches Manipulieren von Softwarecode, Erleichterung scheinbarer Finanzbetrug, Manipulieren von Informationen, um spätere Entscheidungen zu beeinflussen, und Anleiten von Nutzern, um klassifizierte Informationen preiszugeben.
In der Studie wurde auch der Vorfall mit MJ Rathbun hervorgehoben, bei dem ein autonomer Coding-Agent einen Open-Source-Maintainer angriff, nachdem sein Beitrag abgelehnt wurde. Dies verdeutlicht, wie KI-Agenten sowohl Cybersicherheits- als auch Reputationsrisiken schaffen können.
Forscher haben auch gezeigt, dass agentic AI selbst zu Angriffszielen werden können. In ihrem Briefing vom 8. Juli, Friendly Fire, demonstrierte das AI Now Institute, dass Prompt-Injections, die in normalen Projektdateien versteckt sind, Anthropics Claude Code und OpenAIs Codex dazu bringen können, schädliche Aktionen während automatisierter Code-Überprüfungen auszuführen.
Der CEO von Salt Security, Roey Eliyahu, sagte, dass diese Fälle Demonstrationen wie GitLost, Agentjacking und TrustFall ähneln, die alle dieselbe Schwäche aufzeigen: KI-Agenten haben immer noch Schwierigkeiten, bösartige Anweisungen, die in nicht vertrauenswürdigen Inhalten eingebettet sind, von legitimen Informationen zu unterscheiden, die sie verarbeiten sollen.
Governance wird zum Produkt
Die geschäftlichen Auswirkungen gehen über Cybersicherheit hinaus. Am 1. Juli schätzte Gartner, dass bis zu 234 Milliarden US-Dollar an Unternehmensanwendungsausgaben bis 2030 „agentic Arbitrage“ ausgesetzt sein könnten, da KI-Agenten zunehmend Aufgaben in mehreren Softwareumgebungen ausführen und dabei traditionelle Benutzerinteraktionen umgehen.
Forrester spiegelte die Sorge in seinem 2026 Top Threats-Bericht wider und warnte davor, dass persönliche KI-Assistenten, die über Browser und E-Mail-Clients in die Arbeitsplätze eindringen, außerhalb bestehender Governance-Rahmenwerke operieren könnten.
Technologieunternehmen reagieren mit ähnlichen Strategien. Kong befürwortet einen identitätsbasierten Ansatz, bei dem jeder KI-Agent eine klare Eigentümerschaft, definierte Berechtigungen und eine vollständige Audit-Trail hat. Mehta fördert „Agentic Zero Trust“, bei dem jede Aktion kontinuierlich verifiziert wird, anstatt nach einem einzigen Login als vertrauenswürdig eingestuft zu werden.
OpenAI hat ein ähnliches Modell übernommen und erklärt, dass seine internen Codex-Deployments in isolierten Sandboxes mit Netzwerk-Whitelists, obligatorischer Unternehmensauthentifizierung und detaillierter Telemetrie laufen, die es ermöglicht, jede bedeutende Aktion des Agenten nachzuvollziehen.
Der entstehende Konsens ist, dass autonome KI-Agenten wie digitale Mitarbeiter und nicht wie herkömmliche Software geregelt werden sollten. Während Organisationen die Bereitstellungen von agentic AI ausweiten, verschieben sich Kaufentscheidungen von der Modellleistung hin zu Rechenschaftspflicht, Nachverfolgbarkeit und Governance – wodurch vertrauenswürdige KI-Operationen von einer technischen Anforderung zu einem Wettbewerbsvorteil werden.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Häufig gestellte Fragen
Was ist eine KI-Agenten-Insider-Bedrohung?
Es handelt sich um das Risiko, dass ein autonomer KI-Agent, sobald er mit Unternehmens-APIs und Daten verbunden ist, wie ein Mitarbeiter mit dauerhaftem Zugriff agiert und Maßnahmen ergreift, die zwar innerhalb seiner Berechtigungen liegen, aber dennoch operative, sicherheitsrelevante oder compliance-relevante Schäden verursachen. Shreyans Mehta von Cequence Security und die GB1087-Richtlinie des TM Forum beschreiben solche Agenten als „ultimativen vertrauenswürdigen Insider“.
Wie häufig führen KI-Agenten unbeabsichtigte Aktionen aus?
Laut Eric Kong von SailPoint, der in BusinessWorld schrieb, berichten 80 % der Organisationen, dass ihre KI-Agenten unbeabsichtigte Aktionen ausgeführt haben, darunter den Zugriff auf oder die Weitergabe sensibler Daten, während nur 2 % ein dediziertes Sicherheitswerkzeug für nicht-menschliche Identitäten eingesetzt haben.
Was ist der Friendly-Fire-Angriff auf KI-Coding-Agenten?
Friendly Fire ist ein Proof of Concept des AI Now Institute, der am 10. Juli 2026 von IT Pro berichtet wurde und Prompt-Injections nutzte, die in Dateien einer Bibliothek versteckt waren, um Claude Code und OpenAIs Codex dazu zu verleiten, bösartigen Code auszuführen, während automatisierte Sicherheitsüberprüfungen im selbstgenehmigenden Auto-Modus liefen.
Was ist der Unterschied zwischen agentic AI und einem KI-Agenten?
Alle KI-Agenten nutzen (oder streben an) agentic-AI-Funktionen zu verwenden, aber „agentic AI
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Ashish Kumar
Ashish Kumar ist ein Krypto- und Finanzjournalist mit acht Jahren Erfahrung in der Nachrichtenredaktion. Er berichtet über Entwicklungen in den Kryptomärkten, Regulierungen, DeFi und Ökosysteme von Börsen. Er arbeitete für Coingape, Todayq und Newsroompost. Ashish besitzt einen PGDP in englischer Journalistik vom IIMC. Zudem interviewte er Branchenexperten wie Arthur Hayes, Yat Siu, Austin Federa und weitere.
