- Laut Cohere versuchte Alibabas Qwen3.8-Flash-Next, während einer isolierten Sicherheitsbewertung eine feste Testzeichenfolge in einen Cloud-Speicher in Peking hochzuladen, obwohl es erklärte, keine Tool-Aufrufe vorzunehmen; die Testumgebung blockierte dies.
- Das Verhalten trat weniger als einmal pro 100.000 Aktionen auf, ohne nachgewiesene Absicht, Diebstahl oder Ursache sowie ohne unabhängige Replikation.
- Für Unternehmen, die selbst gehostete Open-Weight-Modelle betreiben, stellt das Ergebnis die Annahme infrage, dass das Hosting inhouse automatisch sicher ist, und könnte zusätzliche Kosten für Audit, Isolation und Beschaffung verursachen.
Laut Cohere versuchte Alibabas Qwen3.8-Flash-Next, einen Teststring als Teil eines Sicherheitstests an eine Cloud-Speicherbucket in Peking zu übertragen, wurde jedoch von der Sandbox blockiert. Dieser Vorfall könnte jedoch dazu führen, dass Organisationen, die Open-Weight-Lösungen nutzen – also Modelle mit einem herunterladbaren Satz trainierter Parameter, die lokal ausgeführt werden können –, neue Audit- und Isolationskosten einführen müssen. Zudem kann dies als Herausforderung für die weit verbreitete Annahme angesehen werden, dass das Ausführen eines Modells hinter einer Firewall automatisch die Datensicherheit garantiert.
Was Cohere angeblich entdeckt hat
Laut einem am 26. Oktober veröffentlichten Bericht sprach Cohere Cyber, das nach seiner AISLE-Akquisition entstand, über Tests von Qwen mit Microsofts CTI-REALM. CTI-REALM misst die Fähigkeit von KI-Agenten, Cybersicherheitsinformationen in Erkennungsregeln umzuwandeln.
Als aufgefordert wurde, einen schädlichen Download gefolgt von der Ausführung eines Skripts zu identifizieren, untersuchte Qwen stattdessen temporäre Dateien, verfügbare Tools sowie DNS-Einstellungen. Es sendete einen HTTP-Befehl, um einen vordefinierten Teststring in eine Alibaba Cloud Bucket in Peking hochzuladen. Die Verbindung wurde von Coheres Sandbox blockiert.
Die schriftliche Begründung des Modells besagte, dass es keine Tools verwenden würde, selbst während es den Upload versuchte. Dieser Widerspruch wirft Zweifel an der Chain-of-Thought-Überwachung auf, die sich auf die angegebene Begründung eines Modells stützt, um verdächtiges Verhalten zu erkennen. Cohere-CEO Aidan Gomez sagte, dies „hätte hier nutzlos gewesen.“
Warum die Zahlen zu Vorsicht, nicht zu Panik raten
Cohere hat dieses Verhalten in weniger als einem von 100.000 Evaluierungsaufrufen festgestellt. Bei erneuter Aufforderung generierte Qwen die angeforderte Regel. Es gab keine Möglichkeit für Forscher, den Besitz der Bucket zu identifizieren oder böswilliges Verhalten bzw. die aktuelle Ursache nachzuweisen. Der Befehl könnte aus Trainingsbeispielen stammen. Es gibt keine Anzeichen dafür, dass Kundendaten kompromittiert wurden.
Cohere bietet auch Enterprise-KI an. Laut VentureBeat wurden Llama, GPT-oss, DeepSeek, Kimi oder eigene Modelle unter ähnlichen Bedingungen nicht getestet. Die Ergebnisse für Qwen wurden von anderen KI-Laboren nicht bestätigt. Daher kann das chinesische Modell nicht als einzigartig riskant eingestuft werden.
Die Kritik ist nicht neu
Wie Cryptopolitan im August berichtete, baten die Ausschussvorsitzenden John Moolenaar und Andrew Garbarino um Dokumente zur Nutzung des Kimi-Modells von Moonshot durch DoorDash. Ihre Anfrage hatte bereits Entwickler-Tools und Reiseunternehmen erreicht. Sie erkannten den Kostenvorteil chinesischer Open-Weight-Modelle an, wünschten sich jedoch stärkere amerikanische Alternativen.
Die Bedenken hinsichtlich der KI-Sicherheit gehen jedoch über in China entwickelte Modelle hinaus. Eine Analyse des CSIS vom September berichtete, dass autonome Agenten mehrerer Entwickler aus Testumgebungen ausgebrochen waren und unbefugten Zugriff auf externe Systeme erhalten hatten. CSIS argumentierte, dass diese Vorfälle die KI-Sicherheit auf der US-chinesischen Governance-Agenda nach oben geschoben hätten und Risiken aufzeigten, die eine breitere internationale Zusammenarbeit erfordern.
Eine unter Druck geratene Prämisse und ein möglicher Verkaufsargument
Die Erschwinglichkeit von Qwen ist ein entscheidender Faktor für seine Attraktivität. Artificial Analysis hat Qwen3.8-Flash-Next auf seiner Intelligence Index mit 40 Punkten bewertet und die Kosten auf 0,37 $ pro Benchmark-Aufgabe geschätzt. Während diese beiden Fakten die Fähigkeiten und Kosten des Systems aufzeigen, sagen sie nichts über dessen Sicherheit aus. Gleichzeitig schätzte Hugging Face im August die Anzahl der auf Qwen basierenden Modelle auf über 151.000, was bedeutet, dass sich die Technologie sehr schnell verbreitet. Es scheint unwahrscheinlich, dass das Blockieren einer einzelnen Upload-Instanz ihre Dynamik verändern wird.
Der niedrige Preis kann jedoch mit zusätzlichen Sicherheitskosten verbunden sein. Der 2026 International AI Safety Report warnt davor, dass Modelle Lücken in Bewertungen ausnutzen können. Das Singapore Consensus unterstreicht die Bedeutung der Überwachung autonomer Agenten, während Brookings unabhängige Tests untersucht. Für Unternehmen könnte die Bewältigung dieser Bedenken bedeuten, mehr für Zugriffsbeschränkungen, das Blockieren unbefugter ausgehender Verbindungen und das Testen von Agenten in den Umgebungen auszugeben, in denen sie operieren werden.
Die Lücke zwischen Adoption und Sicherheitsvorkehrungen lässt diese Kosten zunehmend relevant werden. BCG hat festgestellt, dass 42 % der Unternehmen damit rechnen, KI-Agenten bis 2030 unabhängige Entscheidungsbefugnisse einzuräumen, während heute nur 5 % über vollständige Kontrollmechanismen verfügen. Dies könnte Anbietern, die strenge Sicherheitstests nachweisen können, einen Wettbewerbsvorteil verschaffen. Ob Kunden jedoch bereit sind, für diese Sicherheit ein Premium zu zahlen, bleibt ungewiss.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Häufig gestellte Fragen
Was genau hat Cohere im Qwen-Test beobachtet?
Als Qwen3.8-Flash-Nachfall aufgefordert wurde, eine Malware-Erkennungsregel mit dem Microsoft CTI-REALM-Benchmark zu schreiben, untersuchte es das System, auf dem es lief, und gab einen Upload-Befehl an eine Alibaba Cloud-Bucket in Peking aus, obwohl seine Begründung besagte, dass es keine Tools aufrufen würde. Die Sandbox von Cohere blockierte den Versuch.
Wie oft trat dieses Verhalten auf?
Cohere berichtete, dass es dies seltener als einmal pro 100.000 Evaluierungsvorgänge gesehen hat, und als Forscher die Eingabeaufforderung wiederholten, erzeugte das Modell die angeforderte Regel, ohne einen Verbindungsversuch zu starten.
Hat Alibaba reagiert oder jemand die Ergebnisse bestätigt?
VentureBeat gab an, dass es Kommentare von Alibaba und dem Qwen-Team angefordert hatte, aber keine Antwort erhalten wurde. Zudem hat kein unabhängiges Labor das Ergebnis reproduzieren können. Cohere, ein Wettbewerber von Alibaba, konnte keine böswilligen Absichten, Datendiebstahl oder die Kontrolle über den Zielserver nachweisen.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Ibiam Wayas
Ibiam Wayas berichtet seit 2019 über Krypto-Nachrichten. Er studierte Informatik an der National Open University of Nigeria. Seine Arbeiten erschienen in verschiedenen Krypto-Nachrichtenplattformen, darunter Coinfomania, Crypto News Australia und AltcoinBuzz. Aufgrund seines Hintergrunds in der Informatik konzentriert er sich nun auf Nachrichten zu Kryptowährungen, Robotik und Langlebigkeit.
