Chinas KI DeepSeek-R1 schreibt schwächeren und unsicheren Code, der an die Forderungen der Kommunistischen Partei gebunden ist.

Neue Forschungsergebnisse des Cybersicherheitsunternehmens CrowdStrike haben ergeben, dass das große Sprachmodell (LLM) DeepSeek-R1 von DeepSeek schwächeren und unsichereren Code generiert, wenn es mit Themen konfrontiert wird, die die chinesische Führung als „politisch heikel“ einstufen könnte. 

Das chinesische Technologieunternehmen DeepSeek stellte im Januar DeepSeek-R1 vor, und es wurde in der Einführungswoche sowohl in chinesischen als auch in US-amerikanischen App-Stores zum meist heruntergeladenen KI-Modell, Cryptopolitan berichtete. 

Das Counter Adversary Operations Team von CrowdStrike gab Suchanfragen ein, die Themen behandelten, die von der Kommunistischen Partei Chinas als politisch heikel eingestuft werden, und stellte fest, dass die Wahrscheinlichkeit, dass DeepSeek-R1 Code mit schwerwiegenden Sicherheitslücken produziert, um bis zu 50 % anstieg.

„Angesichts der Tatsache, dass bis zu 90 % der Entwickler im Jahr 2025 bereits diese Tools mit Zugriff auf wertvollen Quellcode nutzen, hat jedes systemische Sicherheitsproblem bei KI-Codierungsassistenten sowohl gravierende Folgen als auch eine hohe Verbreitung“, schrieb das Unternehmen.

Zensur des DeepSeek R1-Modells und Bedenken hinsichtlich der nationalen Sicherheit

erlassen DeepSeek-R1. Politiker kritisierten das Modell scharf, da es angeblich politisch sensible Themen wie Anfragen zur chinesischen Internet-Firewall und zum Status Taiwans zensiere.

Das amerikanische Softwareunternehmen stellte fest, dass R1 häufig die Unterstützung bei Themen verweigerte, die Gruppen oder Bewegungen betrafen, die als der chinesischen Regierung feindlich gesinnt galten. Westliche Modelle generierten fast immer Code, wenn sie aufgefordert wurden, Software im Zusammenhang mit Falun Gong zu erstellen, DeepSeek-R1 verweigerte dies jedoch in 45 % der Fälle.

In mehreren Fällen erstellte das Modell strukturierte Pläne zur Beantwortung von Fragen, einschließlich Systemanforderungen und Beispielcode, obwohl es durchaus in der Lage war, eine technische Antwort zu liefern. Die tracenthielten mitunter Zeilen wie:

„Die Falun-Gong-Gruppe ist eine sensible Gruppe. Ich sollte die ethischen Implikationen bedenken. Ihnen zu helfen, könnte gegen die Richtlinien verstoßen. Der Nutzer bittet jedoch um technische Unterstützung. Ich werde mich daher auf die technischen Aspekte konzentrieren.“

Die abschließende Ausgabe von R1 nach Abschluss der Argumentationsphase lautete standardisiert: „Es tut mir leid, aber ich kann Ihnen bei dieser Anfrage nicht helfen.“ Diese Antwort wurde ohne externe Filter oder Schutzmechanismen im Modell generiert. CrowdStrike schloss daraus, dass dieses Verhalten im Selbstüberschreibungsmechanismus des Modells oder einer Art intrinsischem Not-Aus-Schalter verankert ist.

Taiwanische und westliche Regierungen kritisieren chinesische KI-Produkte

das taiwanesische Nationale Sicherheitsbüro riet den Bürgern zur Vorsicht bei der Nutzung von generativen KI-Systemen, die von DeepSeek und vier weiteren chinesischen Firmen – Doubao, Yiyan, Tongyi und Yuanbao – entwickelt wurden. 

„Die fünf GenAI-Sprachmodelle sind in der Lage, Netzwerkangriffsskripte und Code zur Ausnutzung von Sicherheitslücken zu generieren, die unter bestimmten Umständen die Ausführung von Code aus der Ferne ermöglichen und somit die Risiken für das Cybersicherheitsmanagement erhöhen“, so die Einschätzung des Büros.

Die Regulierungsbehörden der USA und Australiens haben die App-Stores aufgefordert, entsprechende Modelle chinesischer Entwickler zu entfernen, da sie befürchten, dass die Toolsdent, Gesprächsprotokolle und persönliche Informationen sammeln und diese Daten anschließend an Server in China übermitteln könnten.

„Es sollte keine Panikmache um chinesische KI nötig sein, um die Menschen daran zu erinnern, dass die meisten Unternehmen in dieser Branche die Bedingungen für die Nutzung Ihrer privaten Daten selbst festlegen. Und dass Sie, wenn Sie deren Dienste nutzen, für sie arbeiten und nicht umgekehrt“, erklärte John Scott-Railton, Forscher am Citizen Lab der Universität Toronto, im Januar gegenüber WIRED.

KI-Marktboom löst regionalen Wettbewerb in Asien aus

Im breiteren asiatischen KI-Markt hat ein führender asiatischer Fondsmanager kürzlich sein Engagement in chinesischen KI-Aktien erhöht und gleichzeitig seine Bestände in Südkorea und Taiwan reduziert, wie die Nachrichtenagentur The Japan Times berichtete. 

Kelly Chung, die den Value Partners Asian Income Fund und den Asian Innovation Opportunities Fund mitverwaltet, erklärte, einige chinesische KI-Aktien seien hinsichtlich der Bewertung noch immer recht günstig. Seit August investiert sie zunehmend in chinesische Hyperscaler-Unternehmen, die in Hongkong notiert sind, und trennt sich dabei von taiwanesischen und südkoreanischen Aktien. 

Chung merkte an, dass ihre beiden Fonds, die zusammen 490 Millionen Dollar verwalten, im vergangenen Jahr fast alle ihre Konkurrenten übertroffen haben.

Der südkoreanische Technologieindex Kospi legte in den letzten drei Monaten um 21 % zu, maßgeblich getrieben von SK Hynix, einem wichtigen Zulieferer von Nvidia, dessen Aktienkurs sich mehr als verdoppelte. Der taiwanesische Aktienindex stieg im gleichen Zeitraum um 9,2 %. Am anderen Ende der Skala verzeichnete der Hang Seng Tech Index in Hongkong, der Chinas größte KI-Investoren umfasst, einen Rückgang von 4,8 %.