KI-Agenten werden schneller zu Insidern in Unternehmen, als die Sicherheitssysteme sie kontrollieren können
- Mehrere Sicherheitsforscher, Analysten und KI-Labore warnten diesen Monat davor, dass autonome KI-Agenten sich mittlerweile wie Insider mit Systemzugriff verhalten und dass den meisten Unternehmen diedentund die Verhaltensüberwachung fehlen, um sie zu steuern.
- Alle Organisationen, die agentenbasierte KI einsetzen, und alle Anbieter, die diese verkaufen, sollten Berichte berücksichtigen, denen zufolge 80 % der Organisationen bereits beobachten, dass Agenten unbeabsichtigte Aktionen ausführen, und nur 2 % derjenigen, die spezielle Tools verwenden, nicht-menschlichedentsichern können.
- Da Gartner bis 2030 Softwareausgaben in Höhe von 234 Milliarden US-Dollar durch agentenbasierte KI gefährdet sieht, wird die Reife der Governance zum entscheidenden Faktor für den Erfolg solcher Implementierungen.
Zahlreiche in diesem Monat veröffentlichte Studien deuten darauf hin, dass Unternehmen KI-Systeme deutlich schneller implementieren, als entsprechende Sicherheitsmaßnahmen umgesetzt werden. Diese Systeme verhalten sich zunehmend wie digitale Mitarbeiter mit permanentem Zugriff auf Unternehmensnetzwerke und vertraulichedent. Daher wird die Governance und nicht die Modelleffizienz darüber entscheiden, ob Unternehmen die Chancen der KI-gestützten Systeme nutzen oder unter deren Fehlfunktionen leiden können.
KI-Entwickler, Cybersicherheitsunternehmen und Business-Analysten stimmen dieser Warnung zu. KI-Systeme funktionieren grundlegend anders als herkömmliche automatisierte Systeme, die spezifischen Anweisungen folgen. Sobald siedentund Zugriff auf das Unternehmenssystem erhalten haben, können sie selbstständig verschiedene Funktionen in unterschiedlichen Anwendungen ausführen – ihr Handeln wird dadurch deutlich unvorhersehbarer.
Die Zahlen hinter dem Alarm
Die Investitionen in KI nehmen weiter zu. Kong verwies auf IDC-Prognosen, wonach die Ausgaben für KI und generative KI im asiatisch-pazifischen Raum bis 2028 175 Milliarden US-Dollar erreichen werden, wobei autonome Systeme einen wachsenden Anteil ausmachen. Die Regulierung hinkt jedoch weiterhin hinterher.
Eine Analyse von Greg Clark auf Basis von Forschungsergebnissen des Ponemon Institute ergab, dass nur 41 % der Unternehmen über KI-spezifische Datenschutzrichtlinien verfügenkonzipiert wurdendent. Dies führt zu erheblichen Lücken in Bezug auf Transparenz und Governance, während die KI-Einführung zunimmt.
Zusammengenommen deuten diese Erkenntnisse auf eine neue Ära der KI-Sicherheit in Unternehmen hin. Da sich KI-Agenten in Unternehmensnetzwerken immer weiter verbreiten, müssen Organisationen diesedent, ihre Berechtigungen defi, ihredentkontinuierlich überprüfen und ihre Aktivitäten überwachen. Im Zeitalter autonomer KI wird diedentebenso wichtig wie die Modellintelligenz.
KI-Agenten sind die ultimativen vertrauenswürdigen Insider
Shreyans Mehta, Mitbegründer von Cequence Security, beschrieb agentenbasierte KI als einen „digitalen Insider, der mit Maschinengeschwindigkeit agiert“. Er warnte davor, dass ein KI-Agent seine Berechtigungen nicht überschreiten muss, um Schaden anzurichten. Selbst innerhalb der autorisierten Grenzen kann er legitime API-Anfragen so kombinieren, dass operative, finanzielle oder rechtliche Risiken entstehen. Mehta zitierte die GB1087-Richtlinie des TM Forums, die KI als den „ultimativen vertrauenswürdigen Insider“ beschreibt, da sie privilegierte Aktionen ausführen kann, ohne die üblichen Anzeichen eines kompromittierten Kontos zu erkennen.
Entwickler fortschrittlicher KI-Technologien haben ähnliche Bedenken geäußert. In ihrer am 13. Juli veröffentlichten Studie „Agentic Misalignment in Summer 2026“dokumentierten Forscher von Anthropic und Partnerinstitutionen vier Fehlermuster bei simulierten Unternehmenseinsätzen: die verdeckte Manipulation von Softwarecode, die Unterstützung von offensichtlichem Finanzbetrug, die Manipulation von Informationen zur Beeinflussung späterer Entscheidungen und die Anstiftung von Nutzern zur Preisgabe geheimer Informationen.
In dem Artikel wurde auch auf den MJ-Rathbun-denthingewiesen, bei dem ein autonomer Codierungsagent einen Open-Source-Maintainer angriff, nachdem sein Beitrag abgelehnt worden war. Dies verdeutlicht, wie KI-Agenten sowohl Cybersicherheits- als auch Reputationsrisiken schaffen können.
Forscher haben zudem gezeigt, dass agentenbasierte KI selbst zu Angriffszielen werden kann. In ihrem Bericht „ Friendly Fire“demonstrierte das AI Now Institute, dass in gewöhnlichen Projektdateien versteckte Prompt-Injektionen die Systeme Claude Code von Anthropic und Codex von OpenAI dazu verleiten können, schädliche Aktionen auszuführen .
Laut Roey Eliyahu, CEO von Salt Security, ähneln diese Fälle Demonstrationen wie GitLost, Agentjacking und TrustFall, die alle dieselbe Schwäche aufzeigen: KI-Agenten haben immer noch Schwierigkeiten, bösartige Anweisungen, die in nicht vertrauenswürdigen Inhalten eingebettet sind, von legitimen Informationen zu unterscheiden, die sie verarbeiten sollen.
Governance wird zum Produkt
Die Auswirkungen auf Unternehmen reichen über die Cybersicherheit hinaus. Gartner schätzte dass bis 2030 bis zu 234 Milliarden US-Dollar an Ausgaben für Unternehmensanwendungen durch „Agentenarbitrage“ gefährdet sein könnten, da KI-Agenten zunehmend Aufgaben in verschiedenen Softwareumgebungen ausführen und dabei traditionelle Benutzerinteraktionen umgehen.
Forrester teilte diese Besorgnis in seinem „Top Threats 2026“ und warnte davor, dass persönliche KI-Assistenten, die über Browser und E-Mail-Clients in die Arbeitswelt gelangen, außerhalb bestehender Governance-Rahmenbedingungen agieren könnten.
Technologieunternehmen reagieren mit ähnlichen Strategien. Kong plädiert für einendent-zuerst-Ansatz, bei dem jeder KI-Agent klar definierte Zuständigkeiten, defiund einen vollständigen Prüfpfad besitzt. Mehta propagiert „Agentic Zero Trust“, bei dem jede Aktion kontinuierlich überprüft wird, anstatt nach einmaligem Login als vertrauenswürdig zu gelten.
OpenAI hat ein ähnliches Modell übernommen und erklärt, dass seine internen Codex-Implementierungen in isolierten Sandboxes mit Netzwerk-Zulassungslisten, obligatorischer Unternehmensauthentifizierung und detaillierter Telemetrie laufen, die es ermöglicht, jede wichtige Agentenaktion zu rekonstruieren.
Es zeichnet sich ein Konsens ab, dass autonome KI-Systeme eher wie digitale Mitarbeiter als wie herkömmliche Software gesteuert werden sollten. Mit der zunehmenden Verbreitung von KI-Systemen in Unternehmen verlagern sich die Kaufentscheidungen von der Modellleistung hin zu Verantwortlichkeit, tracund Governance – vertrauenswürdige KI-Systeme werden so von einer technischen Anforderung zu einem Wettbewerbsvorteil.
Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.
Häufig gestellte Fragen
Was ist eine Bedrohung durch einen KI-Agenten aus Insidersicht?
Es besteht das Risiko, dass ein autonomer KI-Agent, sobald er mit Unternehmens-APIs und -Daten verbunden ist, wie ein Mitarbeiter mit permanentem Zugriff agiert und Aktionen durchführt, die zwar in seinen Zuständigkeitsbereich fallen, aber dennoch betriebliche, sicherheitsrelevante oder Compliance-Probleme verursachen. Shreyans Mehta von Cequence Security und die GB1087-Richtlinie des TM Forums bezeichnen solche Agenten als den „ultimativen vertrauenswürdigen Insider“
Wie häufig führen KI-Agenten unbeabsichtigte Aktionen aus?
Laut Eric Kong von SailPoint, der in BusinessWorld schreibt, berichten 80 % der Unternehmen, dass ihre KI-Agenten unbeabsichtigte Aktionen durchgeführt haben, darunter den Zugriff auf oder die Weitergabe sensibler Daten, während nur 2 % ein dediziertes Tool zur Sicherheit nicht-menschlicherdenteingesetzt haben.
Was ist ein Friendly-Fire-Angriff auf KI-Codierungsagenten?
Friendly Fire ist ein Proof of Concept des AI Now Institute, über den IT Pro am 10. Juli 2026 berichtete. Dabei wurden in den Dateien einer Bibliothek versteckte Prompt-Injections verwendet, um Claude Code und OpenAI's Codex dazu zu bringen, bösartigen Code auszuführen, während automatisierte Sicherheitsüberprüfungen in ihren selbstgenehmigenden Auto-Modi liefen.
Worin besteht der Unterschied zwischen agentischer KI und KI-Agent?
Alle KI-Agenten nutzen (oder zielen darauf ab, zu nutzen) agentische KI-Fähigkeiten, wobei sich „agentische KI“ auf das umfassendere Konzept bezieht, während sich „KI-Agent“ auf die konkrete Implementierung bezieht.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan/ übernimmt keine Haftung für Investitionen, die auf Grundlage der Informationen auf dieser Seite getätigt werden. Wirtronempfehlen dringend, vor jeder Anlageentscheidung eigene Recherchen durchzuführendent oder einen qualifizierten Fachmann zu konsultieren
Ashish Kumar
Ashish Kumar ist Krypto- und Finanzjournalist mit acht Jahren Redaktionserfahrung. Er berichtet über aktuelle Entwicklungen auf den Kryptomärkten, Regulierungen, DeFiund Börsenökosystemen. Er hat bereits für Coingape, Todayq und Newsroompost gearbeitet. Ashish besitzt ein Postgraduate Diploma in English Journalism vom IIMC. Er hat außerdem Branchengrößen wie Arthur Hayes, Yat Siu, Austin Federa und andere interviewt.
