Ex-Google-CEO Eric Schmidt warnt vor einem „Manhattan-ähnlichen Projekt“ für die KI-Entwicklung

In einem am Mittwoch veröffentlichten Politikpapier warnte der ehemalige Google-CEO Eric Schmidt, dass die USA kein Manhattan-ähnliches Projekt für die Entwicklung von KI-Systemen vorantreiben sollten. 

Das Papier „Superintelligence Strategy“ erwähnte, dass ein aggressives Bieten zur Erlangung der Kontrolle über superintelligente KI-Systeme zu Vergeltungsmaßnahmen von Ländern wie China führen könnte. Solche Vergeltungsmaßnahmen könnten in Form von Cyberangriffen erfolgen, die die internationalen Beziehungen direkt beeinträchtigen.

Das Politikpapier wurde gemeinsam von Scale AI-CEO Alexandr Wang und Direktor des Center for AI Safety, Dan Hendricks, verfasst. Die Mitautoren schrieben: „[A] Manhattan Project [für AGI] geht davon aus, dass Rivalen einem dauerhaften Ungleichgewicht oder Omnicid zustimmen, anstatt Maßnahmen zu ergreifen, um dies zu verhindern.“ 

Die Autoren fügten weiter hinzu: „Was als Push für eine Superwaffe und globale Kontrolle beginnt, riskiert, feindselige Gegenmaßnahmen und eskalierende Spannungen auszulösen und untergräbt damit genau die Stabilität, die die Strategie zu sichern vorgibt.“

Dieses Papier erschien nur wenige Monate, nachdem die US-Kongresskommission ein „Manhattan-Projekt-ähnliches“ Finanzierungsmodell zur Entwicklung der künstlichen allgemeinen Intelligenz vorgeschlagen hatte. Das Projekt ist nach den US-Bemühungen zur Entwicklung der Atombombe in den 1940er Jahren modelliert. 

Christ Wright, der US-Energieminister, erwähnte, dass die USA bald mit einem „neuen Manhattan-Projekt“ für künstliche Intelligenz beginnen werden. Er sagte: „Unter der Führung von Präsident Trump wird die Vereinigte Staaten den globalen KI-Wettlauf gewinnen, aber zuerst müssen wir unsere Energiedominanz entfesseln und die amerikanische Wettbewerbsfähigkeit wiederherstellen.“

Mehrere amerikanische Branchenführer und politische Entscheidungsträger haben vorgeschlagen, dass die Verfolgung eines staatlich unterstützten Programms zur Entwicklung von KI der beste Weg ist, um mit Ländern wie China zu konkurrieren. Das Papier „Superintelligence Strategy“ stellt diese Idee jedoch in Frage. 

Eric Schmidt bezeichnet es als gegenseitige Zerstörungssicherheit 

Der Autor argumentierte, dass, genau wie globale Mächte Monopole über Nuklearwaffen vermeiden (weil sie Vergeltung in Form von präventiver Sabotage auslösen können), die USA vorsichtig sein sollten, wenn sie versuchen, mit leistungsstarken KI-Systemen zu dominieren.

Eric Schmidt sprach über ein Konzept namens MAIM (mutual assured AI malfunction). Es bezieht sich darauf, dass Regierungen anderer Länder aktiv versuchen, KI-basierte Bedrohungen zu deaktivieren, anstatt abzuwarten, bis AGI gegen sie bewaffnet wird. 

Die Autoren argumentierten, dass die USA sich stattdessen darauf konzentrieren sollten, „Methoden zur Abschreckung anderer zu entwickeln, solche Systeme zu erstellen“, anstatt sich auf das „Gewinnen des Wettlaufs zur Superintelligenz“ zu konzentrieren. Sie fügten auch hinzu, dass die USA „[ihren] Arsenal an Cyberangriffen erweitern sollten, um bedrohliche KI-Projekte zu deaktivieren.“

Die Trump-Administration scheint jedoch entschlossen, die USA im KI-Wettlauf voranzubringen. Schmidt argumentiert jedoch, dass es klug ist, einen defensiven Ansatz in Betracht zu ziehen, während die Welt beobachtet, wie die USA KI an ihre Grenzen treiben.