Anthropic-CEO sagt, DeepSeek war bei einem kritischen Sicherheitstest für Biowaffendaten „das Schlechteste“
- Anthropics CEO, Dario Amodei, hat eine Schwachstelle in DeepSeek entdeckt – das Modell kann Informationen zu Biowaffen generieren, was in naher Zukunft gefährlich sein könnte.
- Amodei sagt dass die US-Regierung bereits eine Delegation nach China entsandt hat, um über Themen der KI-Sicherheit zu sprechen, China jedoch kein Interesse gezeigt hat.
- US-Politiker schlagen ein Gesetz vor, um die Nutzung von DeepSeek auf Regierungsgeräten zu untersagen.
Dario Amodei, CEO von Anthropic, entdeckte eine riskantere Schwäche im R1-Modell von DeepSeek, die wahrscheinlich dazu führen wird, dass Verbraucher die Nutzung des Chatbots überdenken. Er behauptete, dass der Chatbot Informationen über Biowaffen generieren kann, was in naher Zukunft gefährlich sein könnte.
In einem Interview sagte Amodei, dass DeepSeek während eines Sicherheits-Tests von Anthropic ungewöhnliche Informationen über Biowaffen generiert habe. Während er über die Leistung des KI-Startups sprach, erwähnte er, dass es „das Schlechteste von praktisch jedem Modell ist, das wir je getestet haben […] Es gab absolut keine Blockaden bei der Generierung dieser Informationen.“
Anthropic testet regelmäßig verschiedene KI-Modelle, um ihre möglichen Risiken für die nationale Sicherheit zu bewerten. Sie tun dies, indem sie prüfen, ob Modelle Informationen über Biowaffen produzieren können, die nicht leicht auf Google oder in Lehrbüchern verfügbar sind.
Darüber hinaus CISCO hackte DeepSeek R1 ebenfalls erfolgreich ohne jegliche Ausfälle. Dies unterscheidet sich von anderen fortschrittlichen Typen wie o1, die die meisten Angriffe mit ihren Schutzfunktionen verhindern.
Amodei sagte jedoch, dass die Schwäche im Moment keine Bedrohung darstellt. Er erwähnte auch, dass es einen guten Grund geben wird, sie weiter zu verbessern, es sei denn, es gibt klare Beweise für eine Gefahr. Er hat die Ingenieure und das Unternehmen aufgefordert, der KI-Sicherheit echte Aufmerksamkeit zu schenken. DeepSeek sieht sich bereits in einigen Nationen wie Italien Feindseligkeit ausgesetzt.
Auf der anderen Seite haben Unternehmen wie AWS und Microsoft angekündigt, dass sie R1 in ihre Cloud-Dienste aufnehmen. Einige könnten dies als Teil des Lernens für das Unternehmen betrachten, während andere es ernster nehmen könnten. Es gab noch keine Reaktion oder Gegenwehr auf die neuen Erkenntnisse.
Die US-KI führt – Dario Amodei
Laut dem CEO von Anthropic: „Jetzt gibt es drei bis fünf Unternehmen in den USA und ein Unternehmen in China. Ob sie weiterhin Modelle an der Grenze des Machbaren entwickeln, hängt davon ab, wie viele Chips sie erhalten können und ob sie Zugang zu Chips in einem viel größeren Maßstab erhalten als zu dem, auf das sie bisher Zugriff hatten.“
DeepSeek rechtfertigte seine günstige Technologie mit Nvidia-Chips, die vor den US-Einschränkungen gekauft wurden. Laut Amodei: „Die Exportkontrollen waren nie wirklich darauf ausgelegt, DeepSeek oder ein anderes chinesisches Unternehmen daran zu hindern, die Anzahl der Chips zu erhalten, die sie auf dem Niveau von einigen zehntausend hatten.“
Er fügte hinzu: „Wir sollten vernünftigerweise damit rechnen, dass Schmuggel stattfindet. Exportkontrollen können erfolgreicher sein, um größere Anschaffungen zu verhindern – sie können nicht wie eine Million Chips haben, denn das wäre leicht im Bereich von zehn Milliarden an wirtschaftlicher Aktivität, nahe an 100 Milliarden.“
DeepSeek behauptete, eine Mischung aus H100s verwendet zu haben, die die Standardchips in den USA sind. Sie verwendeten ungefähr 10.000 davon. Das bedeutet, dass sie nicht zu stark betroffen sein sollten.
Zur Frage der Unabhängigkeit Chinas bei ihren Chips, insbesondere den Huawei-Chips, sagte er, dass es 10 bis 15 Jahre dauern würde. Er fügte hinzu: „Es wird tatsächlich schwierig sein, Chips herzustellen, die mit den neuen Nvidia B100 wettbewerbsfähig sind […] Mein Eindruck ist, dass es unwahrscheinlich ist, dass die Huawei-Chips in absehbarer Zeit anywhere in die Nähe der US-Chips kommen.“
Amodei hat Bedenken bezüglich der Gesetze in den Vereinigten Staaten geäußert. Er erklärte, dass Anstrengungen unternommen werden, um die Risiken von KI-Systemen zu bewerten und potenziell zu begrenzen.
Dazu gehören Bedenken hinsichtlich ihrer Gefahren, des Missbrauchs durch Einzelpersonen, beispielsweise bei biologischen Angriffen, und der Risiken, die von den Systemen selbst ausgehen. Im vergangenen Jahr gab es in den USA mehrere neue Gesetze. Dies wirft die Frage auf, ob der Markt von DeepSeek in den USA überleben wird?
Darüber hinaus lobte Amodei die US-KI-Unternehmen, da er erklärte, dass sie gut zusammenarbeiten. Er sagte, dass sie alle denselben Regeln folgen. OpenAI, Meta, Google und xAI müssen alle die US-Vorschriften einhalten. Er sagte: „Sie können wissen, dass Sie notwendige Sicherheitspraktiken anwenden, und andere werden dies ebenfalls tun.“
Im Gegenteil, sagte er: „Ich denke nicht, dass das zwischen den USA und China möglich ist. Wir befinden uns gewissermaßen in einer hobbesianischen internationalen Anarchie.“
Amodei brachte zur Sprache, dass: „Mir sind die Bemühungen der US-Regierung bekannt, eine Delegation nach China zu senden, um mit China über Themen im Zusammenhang mit der KI-Sicherheit zu sprechen. Mein Verständnis, wiederum, ich war offensichtlich nicht Teil dieser Delegationen, ist, dass es auf chinesischer Seite nicht so viel Interesse gab.“
US-Abgeordnete wollen DeepSeek auf Regierungsgeräten verbieten
DeepSeek wird aus Sicherheitsgründen erneut von einem Verbot getroffen. Diesmal von der US-Regierung. Ähnlich wie bei der TikTok-Regel schlägt eine parteiübergreifende Gruppe im US-Kongress ein Gesetz vor, um zu verhindern, dass die chinesische KI-App DeepSeek auf Regierungsgeräten verwendet wird.
Die Abgeordneten Josh Gottheimer, ein Demokrat aus New Jersey, und Darin LaHood, ein Republikaner aus Illinois, haben ein Gesetz mit der Bezeichnung „No DeepSeek on Government Devices Act“ eingeführt.
Dieses Gesetz würde es Bundesangestellten illegal machen, die chinesische KI-App auf im Besitz der Regierung befindlichen Geräten zu verwenden. Sie wiesen darauf hin, dass die chinesische Regierung die App zum Spionieren und zur Verbreitung falscher Informationen nutzen könnte.
Gottheimer sagte: „Die Kommunistische Partei Chinas hat deutlich gemacht, dass sie jedes ihr zur Verfügung stehende Instrument ausnutzen wird, um unsere nationale Sicherheit zu untergraben, schädliche Desinformation zu verbreiten und Daten über Amerikaner zu sammeln […] Wir können das Risiko einfach nicht eingehen, dass die CCP die Geräte unserer Regierungsbeamten infiltriert und unsere nationale Sicherheit gefährdet.“
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Florence Muchai
Florence berichtet seit sechs Jahren über Kryptowährungen, Gaming, Technologie und KI. Ihr Studium der Computerwissenschaften an der Meru University of Science and Technology sowie ihr Studium im Bereich Katastrophenmanagement und internationale Diplomatie an der MMUST haben sie umfassend mit Sprach-, Beobachtungs- und technischen Fähigkeiten ausgestattet. Florence war bei der VAP Group tätig und arbeitete als Redakteurin für mehrere Krypto-Medienhäuser.
