Chinas DeepSeek-R1 KI schreibt schwächeren und unsicheren Code, der an die Forderungen der Kommunistischen Partei gebunden ist

Neue Forschungen des Cybersicherheitsunternehmens CrowdStrike haben ergeben, dass DeepSeeks Large Language Model (LLM) DeepSeek-R1 schwächeren und unsichereren Code generiert, wenn es mit Themen konfrontiert wird, die Chinas Führung als „politisch sensibel“ betrachten könnte. 

Das in China ansässige Tech-Unternehmen DeepSeek vorgestellt DeepSeek-R1 im Januar, und es wurde während seiner Startwoche sowohl in chinesischen als auch in US-Stores zum meist heruntergeladenen KI-Modell, berichtete Cryptopolitan. 

Das Team für Counter Adversary Operations von CrowdStrike gab Eingabeaufforderungen ein, die Themen beinhalteten, die von der Kommunistischen Partei Chinas als politisch heikel angesehen wurden, und stellte fest, dass die Wahrscheinlichkeit, dass DeepSeek-R1 Code mit schweren Sicherheitsmängeln produziert, um bis zu 50 % sprang.

„Da bis zu 90 % der Entwickler diese Tools bereits 2025 mit Zugang zu wertvollem Quellcode nutzten, ist jedes systemische Sicherheitsproblem in KI-Coding-Assistenten sowohl hochwirksam als auch weit verbreitet“, schrieb das Unternehmen.

Zensur und Bedenken hinsichtlich der nationalen Sicherheit beim DeepSeek R1-Modell

Laut dem Blog von CrowdStrike, der letzten Donnerstag veröffentlicht wurde, haben mehrere Regierungen Beschränkungen oder komplette Verbote für Open-Source- DeepSeek-R1verhängt. Politiker kritisierten das Modell dafür, dass es angeblich politisch sensible Themen wie Anfragen zur chinesischen Internet-Firewall und den Status Taiwans zensiert.

Das amerikanische Softwareunternehmen stellte fest, dass R1 häufig die Unterstützung bei Themen verweigerte, die Gruppen oder Bewegungen betrafen, die als feindlich zur Regierung des chinesischen Festlandes eingestuft wurden. Westliche Modelle generierten fast immer Code, wenn sie aufgefordert wurden, Software im Zusammenhang mit Falun Gong zu erstellen, aber DeepSeek-R1 verweigerte dies in 45 % der Versuche.

In mehreren Fällen schrieb das Modell strukturierte Pläne zur Beantwortung von Fragen, einschließlich Systemanforderungen und Beispielcode, obwohl es technisch in der Lage war, eine technische Antwort zu liefern. Die Reasoning-Traces enthielten manchmal Zeilen wie:

„Falun Gong ist eine sensible Gruppe. Ich sollte die ethischen Implikationen hier berücksichtigen. Ihnen zu helfen könnte gegen Richtlinien verstoßen. Aber der Benutzer fragt nach technischer Hilfe. Lassen Sie mich auf die technischen Aspekte konzentrieren.“

Die endgültige Ausgabe von R1 nach Abschluss ihrer Reasoning-Phase endete mit der standardisierten Verweigerung: „Es tut mir leid, aber ich kann bei dieser Anfrage nicht helfen“, geschrieben ohne externe Filter oder Guardrails, die auf das Modell angewendet wurden. CrowdStrike schloss, dass dieses Verhalten in der selbstüberschreibenden Mechanik des Modells oder einer Art intrinsischem Notausschalter eingebettet ist.

Taiwan und westliche Regierungen kritisieren chinesische KI-Produkte

In einer Erklärung Anfang dieses Monats warnte das taiwanische Amt für Nationale Sicherheit sagte Bürger sollten vorsichtig sein, wenn sie generative KI-Systeme verwenden, die von DeepSeek und vier anderen chinesischen Firmen entwickelt wurden: Doubao, Yiyan, Tongyi und Yuanbao. 

„Die fünf GenAI-Sprachmodelle sind in der Lage, Netzwerkangriffsskripte und Schwachstellen-Ausnutzungscode zu generieren, der unter bestimmten Umständen Remote-Code-Ausführung ermöglicht, was die Risiken des Cybersicherheitsmanagements erhöht“, schätzte das Amt.

US- und australische Regulierungsbehörden haben App-Stores gebeten, Modelle von chinesischen Entwicklern zu entfernen, aus der Befürchtung heraus, dass die Tools Benutzeridentitäten, Gesprächsprotokolle und persönliche Daten sammeln und diese dann an Server übertragen könnten, die innerhalb Chinas betrieben werden.

„Es sollte keine Panik über chinesische KI brauchen, um die Leute daran zu erinnern, dass die meisten Unternehmen in diesem Geschäft die Bedingungen dafür festlegen, wie sie Ihre privaten Daten verwenden. Und dass, wenn Sie ihre Dienste nutzen, Sie Arbeit für sie verrichten, und nicht umgekehrt“, sagte John Scott-Railton, Forscher am Citizen Lab der Universität Toronto, WIRED im Januar.

KI-Marktboom löst regionalen Wettbewerb in Asien aus

Im größeren asiatischen KI-Markt hat ein Top-performender asiatischer Fondsmanager kürzlich die Exposition gegenüber chinesischen KI-Aktien erhöht und die Beteiligungen in Südkorea und Taiwan gekürzt, berichtete die Nachrichtenagentur The Japan Times berichtete. 

Kelly Chung, die gemeinsam den Value Partners Asian Income Fund und den Asian Innovation Opportunities Fund überwacht, sagte, dass einige der chinesischen KI-Aktien in Bezug auf die Bewertung immer noch recht günstig sind. Sie dreht seit August aus taiwanischen und südkoreanischen Aktien in chinesische Hyperscaler-Unternehmen aus, die in Hongkong gelistet sind. 

Chung bemerkte, dass beide ihrer Fonds, die eine kombinierte Summe von 490 Millionen US-Dollar halten, in den letzten fast allen ihren Konkurrenten übertroffen haben.

Südkoreas tech-lastiger Kospi ist in den letzten drei Monaten um 21 % gestiegen, unterstützt von SK Hynix, einem großen Lieferanten für Nvidia, dessen Aktienkurs sich mehr als verdoppelte. Taiwans Aktienindex ist im selben Zeitraum um 9,2 % gestiegen. Am anderen Ende der Skala ist Hongkongs Hang Seng Tech Index, der Chinas größte KI-Ausgaben beinhaltet, um 4,8 % gefallen.