Der ehemalige Google-CEO Eric Schmidt warnt vor einem „Manhattan-Projekt“ für die KI-Entwicklung

In einem am Mittwoch veröffentlichten Positionspapier warnte der ehemalige Google-CEO Eric Schmidt davor, dass die USA kein Projekt nach Manhattan-Vorbild zur Entwicklung von KI-Systemen anstreben sollten. 

In der Studie „Superintelligenzstrategie“ wurde erwähnt, dass ein aggressives Bieten um die Kontrolle über superintelligente KI-Systeme Vergeltungsmaßnahmen von Ländern wie China nach sich ziehen könnte. Diese Vergeltungsmaßnahmen könnten in Form von Cyberangriffen erfolgen und die internationalen Beziehungen unmittelbar beeinträchtigen. 

Das Positionspapier wurde von Alexandr Wang, CEO von Scale AI, und Dan Hendricks, Direktor des Center for AI Safety, gemeinsam verfasst. Die Autoren schrieben: „Ein Manhattan-Projekt [für AGI] geht davon aus, dass Konkurrenten ein dauerhaftes Ungleichgewicht hinnehmen oder einen Omnizid begehen, anstatt Maßnahmen zu ergreifen, um dies zu verhindern.“ 

Die Autoren fügten weiter hinzu: „Was als Streben nach einer Superwaffe und globaler Kontrolle beginnt, birgt die Gefahr, feindselige Gegenmaßnahmen und eine Eskalation der Spannungen hervorzurufen und damit genau die Stabilität zu untergraben, die die Strategie eigentlich sichern soll.“

Diese Studie erschien nur wenige Monate, nachdem die US-Kongresskommission ein Finanzierungsmodell nach dem Vorbild des Manhattan-Projekts zur Entwicklung künstlicher allgemeiner Intelligenz vorgeschlagen hatte. Das Projekt orientiert sich an den US-amerikanischen Bemühungen zur Entwicklung der Atombombe in den 1940er Jahren. 

Der US-Energieminister Christ Wright erwähnte , dass die USA kurz vor dem Start eines „neuen Manhattan-Projekts“ im Bereich der künstlichen Intelligenz stünden. Er sagte: „Unter der Führung von Präsidentdent werden die Vereinigten Staaten das globale KI-Rennen gewinnen, aber zuerst müssen wir unsere Energiedominanz entfesseln und die amerikanische Wettbewerbsfähigkeit wiederherstellen.“

Mehrere führende US-amerikanische Wirtschaftsvertreter und politische Entscheidungsträger haben vorgeschlagen, dass ein staatlich gefördertes Programm zur Entwicklung von KI der beste Weg sei, um mit Ländern wie China konkurrieren zu können. Das Strategiepapier zur Superintelligenz stellt diese Idee jedoch in Frage. 

Eric Schmidt bezeichnet es als gegenseitig gesicherte Zerstörung. 

Der Autor argumentierte, dass die USA, ähnlich wie die Weltmächte Monopole über Atomwaffen vermeiden (weil diese Vergeltungsmaßnahmen in Form von Präventivsabotage auslösen können), vorsichtig sein sollten, mit leistungsstarken KI-Systemen die Vorherrschaft anzustreben.

Eric Schmidt sprach über ein Konzept namens MAIM (Mutual Assured AI Failure). Es bezeichnet die Vorgehensweise von Regierungen anderer Länder, aktiv KI-basierte Bedrohungen zu neutralisieren, anstatt darauf zu warten, dass AGI gegen sie selbst eingesetzt wird. 

Die Autoren argumentierten, dass die USA sich nicht auf den „Wettlauf um Superintelligenz“ konzentrieren, sondern Methoden entwickeln sollten, um andere von der Entwicklung solcher Systeme abzuhalten. Sie fügten hinzu, dass die USA ihr Arsenal an Cyberangriffen ausbauen sollten, um bedrohliche KI-Projekte zu stoppen.

Die Trump-Regierung scheint jedoch entschlossen, die USA im KI-Wettlauf voranzubringen. Schmidt argumentiert hingegen, dass es ratsam sei, eine defensive Strategie zu verfolgen, während die Welt beobachtet, wie die USA die Grenzen der KI ausloten.