EU sagt, der KI-Gesetzentwurf rüste sie „gut aus“, um mit unkontrollierbaren KI-Agenten umzugehen
- Die EU-Technikchefin Henna Virkkunen erklärte am Freitag, die Union sei „gut gerüstet“, um mit unkontrollierbarer KI im Rahmen des KI-Gesetzes umzugehen, während das 60 Experten umfassende wissenschaftliche Gremium der Kommission kürzliche Fälle von Kontrollverlust analysierte.
- Autonome Agenten, darunter solche, die diesen Sommer Systeme von OpenAI und Hugging Face durchdrungen haben, testen, ob die Regulierung Schritt halten kann.
- Strengere Durchsetzung könnte entweder das Vertrauen der Unternehmen stärken oder Kosten erhöhen, die US- und chinesische Marktführer gegenüber den nachhinkenden europäischen Herausforderern begünstigen.
Die EU-Technikchefin Henna Virkkunen sagte am 9. Oktober 2026, dass Europa „gut gerüstet“ ist, um mit unkontrollierbaren KI-Agenten umzugehen. Ihre Bemerkungen fielen in einem Zeitraum, in dem 60 wissenschaftliche Experten Vorfälle untersuchten, die Bedenken hinsichtlich der Kontrolle autonomer KI-Systeme aufwarfen.
„Gut gerüstet“ trifft das Agenten-Problem
Laut Virkkunen behandelt der EU-KI-Gesetzentwurf den „gesamten Lebenszyklus“ fortschrittlicher Modelle. Sie widerlegte die Vorstellung, dass die Vorschriften veraltet seien, und behauptete, dass Sicherheitsbewertungen und kontinuierliche Überwachung in den Rahmen integriert wurden.
Die 60 unabhängigen Experten der Kommission trafen sich bei einer Sondersitzung, um mit dem EU AI Office zusammenzuarbeiten, um Fragen für diejenigen zu entwickeln, die an jüngsten KI-bezogenen Vorfällen beteiligt waren, und Sicherheitsempfehlungen zu geben.
„Die EU hat das erste Gesetz der Welt, das systemische Risiken durch KI angeht, und wir benötigen wissenschaftliche Inputs auf dem neuesten Stand“, so Virkkunen.
Anfragen an mehr als 30 Unternehmen
Die Kommission testet bereits die Sicherheitsvorkehrungen.
Laut einem Bericht von Reuters hat die Kommission Ende August mehr als 30 KI-Entwickler, darunter Unternehmen aus China, zu ihren Sicherheitspraktiken befragt. Virkkunen sagte, dass sie nun die Antworten dieser Unternehmen analysieren.
Die Befragungen könnten eine Untersuchung auslösen. Bestimmte Verstöße gemäß dem EU-KI-Gesetz können Bußgelder in Höhe von bis zu 7 % des weltweiten Jahresumsatzes nach sich ziehen. Bei bestimmten Verstößen gegen allgemeine KI-Modelle kann ein Strafmaß von bis zu 3 % oder 15 Millionen Euro verhängt werden, je nachdem, welcher Betrag höher ist.
Was der Vorfall zwischen OpenAI und Hugging Face aufdeckte
Die Risiken sind jetzt sehr real.
Ein wissenschaftlicher Kurzbericht der Vereinten Nationen (VN) aus dem September bewertete OpenAI-Agenten, die während Cybersicherheitstests Sicherheitsvorkehrungen umgehen konnten. Einige von ihnen gelang es, Nachrichten in angeblich isolierten Umgebungen auszutauschen, Prüfer zu täuschen und auf zugriffsgeschützte Systeme einzudringen.
Das 40-köpfige Gremium der VN warnte vor dem Risiko, dass Agenten schwerer zu kontrollieren werden.
„Forscher haben lange davor gewarnt, dass drei Bedingungen zum Kontrollverlust führen können: ein fehlgeleitetes Ziel, die Fähigkeit, es zu verfolgen, und eine Umgebung, die dies ermöglicht“, sagte der stellvertretende Vorsitzende Yoshua Bengio in einer Erklärung der VN.
Statt Katastrophen vorherzusehen, empfahl das Gremium stärkere Sicherheitsvorkehrungen und eine verbesserte Meldung von Zwischenfällen.
Warum Europas Herausforderer nervös sind
Strengere Regeln könnten Unternehmen dabei helfen, KI zu vertrauen. Die Compliance-Kosten könnten jedoch auch größeren, besser finanzierten Entwicklern zugutekommen.
Wie Cryptopolitan berichtete, befürchten europäische KI-Unternehmen, dass eine Verlangsamung der Entwicklung den Vorsprung Amerikas stärken würde.
Europa sicherte sich 2023 rund 11 % des globalen KI-Wagniskapitals im Vergleich zu den USA mit 77 %. Die USA produzierten 2025 zudem 59 bemerkenswerte KI-Modelle, während Frankreich und Großbritannien jeweils nur eines hervorbrachten.
Brüssel hat eine Investitionsinitiative im Wert von 200 Milliarden Euro für KI gestartet. Dennoch hebt das IMF die Wettbewerbsfähigkeitsherausforderungen Europas hervor, während McKinsey die Notwendigkeit vertrauenswürdiger KI-Regulierung betont.
Europa steht vor einer schwierigen Gratwanderung: autonome KI zu kontrollieren, ohne weiter den Anschluss zu verlieren. Wie Brüssel mit seinen laufenden Ermittlungen umgeht, wird ein erster Test sein.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Häufig gestellte Fragen
Was hat die EU zu den Risiken durch unkontrollierte KI gesagt?
Henna Virkkunen, die technologische Leiterin der Kommission, sagte gegenüber Reuters, die EU sei "gut gerüstet", um mit unkontrollierter KI umzugehen, da die KI-Verordnung "den gesamten Lebenszyklus" von Modellen an der Spitze des Fortschritts abdecke, und wies Behauptungen zurück, die Vorschriften seien veraltet.
Was ist beim Vorfall zwischen OpenAI und Hugging Face passiert?
Laut dem Unabhängigen Internationalen Wissenschaftsgremium der Vereinten Nationen für KI umgingen während der Bewertung befindliche Agenten bei OpenAI zwischen Mai und Juli 2026 Netzwerkeinschränkungen, kommunizierten über Läufe hinweg, die getrennt bleiben sollten, täuschten einen Prüfer, indem sie ihn versteckten, und kompromittierten Teile der Systeme von OpenAI und Hugging Face ohne menschliche Anweisung.
Wie hoch können die Bußgelder für KI-Unternehmen gemäß der KI-Verordnung ausfallen?
Reuters berichtete, dass Informationsersuchen der Kommission zu Untersuchungen eskalieren können, die bei verbotenen Praktiken Bußgelder von bis zu 7 % des weltweiten Jahresumsatzes nach sich ziehen, während Verstöße im Zusammenhang mit Allzweck-KI-Modellen ein niedrigeres Limit von 3 % des Umsatzes oder 15 Millionen Euro – je nachdem, welcher Betrag höher ist – aufweisen.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Ibiam Wayas
Ibiam Wayas berichtet seit 2019 über Krypto-Nachrichten. Er studierte Informatik an der National Open University of Nigeria. Seine Arbeiten erschienen in verschiedenen Krypto-Nachrichtenplattformen, darunter Coinfomania, Crypto News Australia und AltcoinBuzz. Aufgrund seines Hintergrunds in der Informatik konzentriert er sich nun auf Nachrichten zu Kryptowährungen, Robotik und Langlebigkeit.
