Trump und Xi diskutieren KI-Sicherheit, während Experten Anthropics Angstmacherei kritisieren

Ein führender amerikanisches KI-Unternehmen gab eine starke Warnung vor dem chinesischen KI-Wachstum ab, kurz nachdem die Präsidenten Donald Trump und Xi Jinping in Peking Gespräche über technologische Zusammenarbeit abgeschlossen hatten, was zu einer ungewöhnlichen Lücke zwischen der Rhetorik der Industrie und der politischen Realität führte. 

Das KI-Unternehmen Anthropic veröffentlichte am Donnerstag einen Forschungsbericht, in dem behauptet wird, dass Maschinen mit menschlicher Intelligenz bis 2028 verfügbar sein könnten.

Das Unternehmen forderte Washington auf, die USA bei der Entwicklung fortschrittlicher KI-Systeme vor China zu halten.

Ihr Papier mit dem Titel „2028: Zwei Szenarien für die globale KI-Führung“ zeichnet ein Bild von KI-Systemen, die bald in der Lage sein werden, komplexe Arbeiten in den Bereichen Wissenschaft, Ingenieurwesen und Cybersicherheit auf dem Niveau menschlicher Experten zu erledigen.

Anthropic malt zwei Zukunftsszenarien für die KI-Führung

Anthropic beschreibt eine Zukunft mit dem, was es als „ein Land von Genies in Rechenzentren“ bezeichnet.

KI könnte wissenschaftliche Entdeckungen, die Softwareentwicklung und die Schaffung noch fortschrittlicherer KI beschleunigen.

Anthropic vertritt die Auffassung, dass das Land, das in fortschrittlicher KI führend ist, erhebliche wirtschaftliche, politische und militärische Vorteile gewinnen wird.

Der Bericht wurde veröffentlicht, als Trump den ersten Tag seines Gipfels mit Xi in Peking abschloss.

Anthropic ermutigte die Vereinigten Staaten und ihre Partner, die Exportvorschriften zu verschärfen und „Distillation“ in China zu verhindern, bei der kleinere KI-Modelle auf größeren, ausgefeilteren Systemen trainiert werden.

Anthropic, der Schöpfer von Claude AI, hat zuvor vor den KI-Fortschritten Chinas gewarnt und US-Exportbeschränkungen für Chips unterstützt.

Laut dem Unternehmen könnte die chinesische Führung in der fortschrittlichen KI eine erhebliche weltweite Bedrohung darstellen, die großflächige Unterdrückung jenseits dessen ermöglicht, was Menschen allein erreichen könnten.

Das Unternehmen äußerte Bedenken regarding Diktaturen, die ausgefeilte KI für Massenüberwachung, digitale Angriffe und Bevölkerungskontrolle einsetzen.

Laut dem Bericht hat Amerika derzeit einen Vorteil in der KI, da es die Entwicklung von High-End-Computerchips und der Rechenleistung, die für das Training fortschrittlicher KI-Modelle erforderlich ist, dominiert.

Anthropic warnte jedoch, dass dieser Vorsprung schwinden könnte, wenn Lücken bei den Exportbeschränkungen für Halbleiter, der Zugang zu Rechenkapazitäten im Ausland und die Verfügbarkeit von KI-Modellen nicht behoben werden.

Anthropic beschrieb zwei mögliche Ergebnisse für 2028.

In einem Szenario verschärfen die USA und ihre Verbündeten die Exportkontrollen, gehen gegen den Chip-Schmuggel vor und beschleunigen die KI-Adoption im Inland, was demokratischen Nationen hilft, China 12–24 Monate voraus zu sein.

Das Unternehmen sagte, dieser Vorsprung könnte Möglichkeiten schaffen, mit chinesischen KI-Experten an Sicherheit und Governance zusammenzuarbeiten.

Im zweiten Szenario ermöglichen schwache Durchsetzung und kontinuierlicher Zugang zu Infrastruktur im Ausland China, seine Wettbewerbsfähigkeit in fortschrittlicher KI aufrechtzuerhalten.

Anthropic warnte, dass China möglicherweise großen Einfluss auf die globale KI-Szene gewinnen könnte.

Kritiker und Diplomaten lehnen die Konflikt-Rahmung ab

Einige Branchenbeobachter bezeichnen Anthropics Forderung an die USA, ihre Führung gegenüber China auszubauen, als „unverantwortlich“ und von Eigeninteressen motiviert.

Alvin Wang Graylin, Digital Fellow am Stanford Institute for Human-centered Artificial Intelligence und Senior Fellow am Asia Society Policy Institute, sagte, das Unternehmen richte valide Sorgen bezüglich potenzieller Missbrauch aus, die Aufmerksamkeit verdienten.

Seine „Rüstungswettlauf-Rahmung drängt uns jedoch in die falsche Richtung genau zum falschen Zeitpunkt“, sagte er.

Während die Debatte öffentlich ausgetragen wurde, diskutierten die beiden Präsidenten tatsächlich über KI-Zusammenarbeit.

Trump sagte Reportern an Bord der Air Force One auf dem Heimflug, dass die beiden Länder „darüber gesprochen haben, möglicherweise an Schutzvorkehrungen zusammenzuarbeiten“, und beschrieb diese als „Standard-Schutzvorkehrungen, über die wir ständig sprechen.“

Die Gespräche behandelten auch Nvidias H200-Chips.

Peking hat die Lieferungen dieser Grafikprozessoren noch nicht genehmigt.

Trump bestätigte, dass das Thema „zur Sprache kam“ und dass er „denkt, dass etwas passieren könnte.“

Er merkte an, dass China die Hardware noch nicht gekauft hat, weil es „sich entschieden hat, dies nicht zu tun“, und stattdessen „versuchen will, eigene inländische Optionen zu entwickeln.“

Der Sprecher des chinesischen Außenministeriums Guo Jiakun sagte am Freitag , dass „China stets dafür plädiert hat, dass alle Parteien gemeinsam die Entwicklung der künstlichen Intelligenz in einer offenen, inklusiven, vorteilhaften und für alle nützlichen Richtung vorantreiben.“

Zur Frage der Nvidia-Chips sagte er, China habe seine Position wiederholt dargelegt, ohne Details preiszugeben.

Peking hatte zuvor erklärt, es widerspreche stark dem Missbrauch von Exportkontrollen.