Der CEO von Anthropic bezeichnete DeepSeek bei einem kritischen Test zur Datensicherheit von Biowaffen als „am schlechtesten“

Dario Amodei, CEO von Anthropic, entdeckte eine gravierende Schwachstelle im R1-Modell von DeepSeek, die Verbraucher wahrscheinlich dazu veranlassen wird, die Nutzung des Chatbots zu überdenken. Er behauptete, der Chatbot könne Informationen zu Biowaffen generieren, was in naher Zukunft gefährlich werden könnte.

In einem Interview erklärte Amodei, DeepSeek habe während eines Sicherheitstests für anthropogene Waffen ungewöhnliche Informationen über Biowaffen generiert. Bezüglich der Leistung des KI-Startups erwähnte er, es sei „das schlechteste von praktisch allen Modellen, die wir je getestet haben […] Es gab absolut keine Blockaden, die die Generierung dieser Informationen verhinderten.“

Anthropic testet regelmäßig verschiedene KI-Modelle, um deren potenzielle Risiken für die nationale Sicherheit zu bewerten. Dazu prüfen sie, ob die Modelle Informationen über Biowaffen generieren können, die nicht ohne Weiteres über Google oder in Lehrbüchern zu finden sind.

Darüber hinaus CISCO DeepSeek R1 erfolgreich und ohne Probleme zu hacken. Dies unterscheidet es von anderen hochentwickelten Modellen wie o1, die dank ihrer Schutzfunktionen die meisten Angriffe abwehren.

Amodei erklärte jedoch, die Schwäche stelle derzeit keine Bedrohung dar. Er erwähnte außerdem, dass es, solange keine eindeutigen Beweise für eine Gefahr vorlägen, guten Grund gäbe, die Schwäche weiter zu verbessern. Er forderte die Ingenieure und das Unternehmen nachdrücklich auf, der Sicherheit der KI höchste Priorität einzuräumen. DeepSeek sieht sich bereits in einigen Ländern, wie beispielsweise Italien, Anfeindungen ausgesetzt.

Andererseits haben Unternehmen wie AWS und Microsoft angekündigt, R1 in ihre Cloud-Dienste zu integrieren. Manche sehen dies als Lernprozess, andere nehmen es ernster. Bislang gibt es keine Reaktionen oder Gegenreaktionen auf die neuen Erkenntnisse. 

Die US-KI übernimmt die Führung – Dario Amodei

Laut dem CEO von Anthropic gibt es derzeit drei bis fünf Unternehmen in den USA und ein Unternehmen in China. Ob sie weiterhin innovative Modelle entwickeln, hängt davon ab, wie viele Chips sie beziehen können und ob sie Zugang zu Chips in einem deutlich größeren Umfang erhalten als bisher

DeepSeek begründete seine günstigen Technologie mit Nvidia-Chips, die vor den US-Beschränkungen erworben wurden. Laut Amodei waren die Exportkontrollen nie wirklich darauf ausgelegt, DeepSeek oder andere chinesische Unternehmen daran zu hindern, die Anzahl von mehreren Zehntausend Chips zu erwerben, die sie besaßen.  

Er fügte hinzu: „Wir sollten vernünftigerweise mit Schmuggel rechnen. Exportkontrollen können größere Anschaffungen eher verhindern – sie können nicht einfach eine Million Chips besitzen, denn das entspricht leicht einem Wirtschaftsvolumen von mehreren zehn Milliarden, fast 100 Milliarden.“

DeepSeek gab an, eine Mischung aus H100-Chips verwendet zu haben , die in den USA Standard sind. Sie verwendeten etwa 10.000 Stück. Daher sollten sie nicht allzu stark beeinträchtigt sein.

Zur Frage, ob Chinadent von seinen Chips, insbesondere von Huawei-Chips, werden könne, sagte er, dass dies 10 bis 15 Jahre dauern würde. Er fügte hinzu: „Es wird tatsächlich schwierig sein, Chips herzustellen, die beispielsweise mit dem neuen Nvidia B100 konkurrenzfähig sind. […] Ich halte es für unwahrscheinlich, dass Huawei-Chips in absehbarer Zeit auch nur annähernd mit US-Chips vergleichbar sein werden.“

Amodei äußerte Bedenken hinsichtlich der Gesetze in den Vereinigten Staaten. Er erklärte, dass Anstrengungen unternommen würden, die Risiken von KI-Systemen zu bewerten und gegebenenfalls zu begrenzen.

Dies umfasst Bedenken hinsichtlich der Gefahren, des Missbrauchs durch Einzelpersonen, beispielsweise bei biologischen Angriffen, und der Risiken, die von den Systemen selbst ausgehen. Im vergangenen Jahr wurden in den USA mehrere neue Gesetze verabschiedet. Dies wirft die Frage auf, ob DeepSeek auf dem US-Markt überleben kann

Darüber hinaus lobte Amodei die US-amerikanischen KI-Unternehmen und erklärte, dass sie gut zusammenarbeiten. Sie alle hielten sich an dieselben Regeln. OpenAI, Meta, Google und xAI müssten die US-amerikanischen Vorschriften einhalten. „Man kann sicher sein, dass man die notwendigen Sicherheitsvorkehrungen trifft und dass andere diese ebenfalls treffen“, sagte er.

Im Gegenteil, sagte er, „ich glaube nicht, dass das zwischen den USA und China möglich ist. Wir befinden uns sozusagen in einer Hobbes’schen internationalen Anarchie.“

Amodei brachte zur Sprache: „Mir sind die Bemühungen der US-Regierung bekannt, eine Delegation nach China zu entsenden, um über Themen im Zusammenhang mit der Sicherheit von KI zu sprechen. Meinem Verständnis nach – ich war natürlich nicht Teil dieser Delegationen – bestand von chinesischer Seite kein allzu großes Interesse.“

US-Gesetzgeber wollen DeepSeek auf Regierungsgeräten verbieten

DeepSeek droht ein weiteres Verbot aus Sicherheitsgründen. Diesmal durch die US-Regierung. Ähnlich wie im TikTok schlägt eine überparteiliche Gruppe in den USA ein Gesetz vor, das die Nutzung der chinesischen KI-App DeepSeek auf Regierungsgeräten untersagt.

Die Abgeordneten Josh Gottheimer, ein Demokrat aus New Jersey, und Darin LaHood, ein Republikaner aus Illinois, brachten einen Gesetzentwurf mit dem Titel „No DeepSeek on Government Devices Act“ ein 

Dieser Gesetzentwurf würde es Bundesangestellten verbieten, die chinesische KI-App auf dienstlichen Geräten zu nutzen. Kritiker wiesen darauf hin, dass die chinesische Regierung die App zur Spionage und zur Verbreitung von Falschinformationen einsetzen könnte.

Gottheimer sagte: „Die Kommunistische Partei Chinas hat unmissverständlich klargemacht, dass sie jedes ihr zur Verfügung stehende Mittel nutzen wird, um unsere nationale Sicherheit zu untergraben, schädliche Desinformationen zu verbreiten und Daten über Amerikaner zu sammeln […] Wir können es uns schlichtweg nicht leisten, dass die KPCh in die Geräte unserer Regierungsbeamten eindringt und unsere nationale Sicherheit gefährdet.“