US-Medien und Tech-Experten fordern Stopp der Entwicklung superintelligenter KI

Eine Koalition aus US-amerikanischen rechtsgerichteten Medienpersönlichkeiten, Wissenschaftlern und führenden Technologieunternehmen fordert ein weltweites Verbot der Entwicklung superintelligenter künstlicher Intelligenz (KI), bis die Wissenschaft in Verbindung mit der Unterstützung der Öffentlichkeit sicherstellt, dass sie kontrolliert werden kann.

Laut einem Bericht von Reuters vom Mittwoch wurde der vom Future of Life Institute (FLI) koordinierte Appell in einer gemeinsamen Erklärung bekannt gegeben, die von mehr als 850 Persönlichkeiten des öffentlichen Lebens unterzeichnet wurde. 

Das Dokument fordert Regierungen und KI-Unternehmen auf, alle Arbeiten an Superintelligenz, also KI-Systemen, die die kognitiven Fähigkeiten des Menschen angeblich weit übertreffen, auszusetzen, bis öffentlich genehmigte Sicherheitsmechanismen eingeführt sind.

Verbündete arbeiten zusammen, um die Entwicklung von Superintelligenz (KI) zu stoppen 

Die Unterzeichner der Koalition werden von den rechtsgerichteten Medienvertretern Steve Bannon und Glenn Beck sowie den führenden KI-Forschern Geoffrey Hinton und Yoshua Bengio angeführt. Zu den weiteren Mitgliedern zählen Virgin-Group-Gründer Richard Branson, Apple-Mitbegründer Steve Wozniak sowie ehemalige US-amerikanische Militär- und Politikbeamte. 

Auf der Liste stehen außerdem der ehemalige Vorsitzende der Vereinigten Stabschefs, Mike Mullen, die ehemalige Nationale Sicherheitsberaterin Susan Rice, der Herzog und die Herzogin von Sussex, Prinz Harry und Meghan Markle, sowie die ehemaligedent Irlands, Mary Robinson.

Der renommierte Informatiker Yoshua Bengio äußerte sich in einer Stellungnahme auf der Website der Initiative zu den Befürchtungen der Koalition und erklärte, KI-Systeme könnten schon bald die meisten Menschen bei kognitiven Aufgaben übertreffen. Bengio bekräftigte, dass Technologie zwar zur Lösung globaler Probleme beitragen könne, aber immense Gefahren berge, wenn sie unüberlegt entwickelt werde.

„Um sicher in Richtung Superintelligenz vorzudringen, müssen wir wissenschaftlich ermitteln, wie wir KI-Systeme entwickeln, die grundsätzlich nicht in der Lage sind, Menschen zu schaden – weder durch Fehlfunktionen noch durch böswillige Nutzung“, sagte er. „Wir müssen außerdem sicherstellen, dass die Öffentlichkeit bei Entscheidungen, die unsere gemeinsame Zukunft prägen werden, ein deutlichtronMitspracherecht hat.“

Das Future of Life Institute, eine 2014 gegründete gemeinnützige Organisation, die frühzeitig von Tesla -CEO Elon Musk und dem Technologieinvestor Jaan Tallinn unterstützt wurde, gehört ebenfalls zu den Gruppen, die sich für eine verantwortungsvolle KI-Governance einsetzen. 

Die Organisation warnt davor, dass der Wettlauf um die Entwicklung superintelligenter KI oder künstlicher Superintelligenz (ASI) irreversible Risiken für die Menschheit bergen könnte, wenn er nicht angemessen reguliert wird.

In ihrer jüngsten Stellungnahme wies die Gruppe darauf hin, dass Superintelligenz zu „wirtschaftlicher Überalterung, Entmachtung, Verlust von Freiheit, Bürgerrechten, Würde und Kontrolle sowie zu Bedrohungen der nationalen Sicherheit und sogar zum potenziellen Aussterben der Menschheit“ führen könnte

FLI fordert die politischen Entscheidungsträger auf, die Forschung und Entwicklung von Superintelligenz vollständig zu verbieten, bis eine „tronöffentliche Unterstützung“ und ein „wissenschaftlicher Konsens darüber besteht, dass solche Systeme sicher gebaut und kontrolliert werden können“

Die Technologiebranche ist in der Frage der KI-Entwicklung gespalten

Tech-Giganten arbeiten weiterhin daran, die Grenzen der KI-Leistungsfähigkeit zu erweitern, obwohl einige Gruppen die Auswirkungen auf Arbeitsplätze und Produktentwicklung kritisieren. Elon Musks xAI, Sam Altmans OpenAI und Meta wetteifern um die Entwicklung leistungsstarker großer Sprachmodelle (LLMs). 

Im Juli erklärte Meta-CEO Mark Zuckerberg auf einer Konferenz, die Entwicklung superintelligenter Systeme sei „nun in greifbarer Nähe“. Einige KI-Experten behaupten jedoch, Zuckerberg nutze Marketingtaktiken, um Konkurrenten einzuschüchtern und ihnen vorzugaukeln, sein Unternehmen sei in einem Sektor, der in den kommenden Jahren voraussichtlich Hunderte von Milliarden Dollar umsetzen werde, „vorn“.

Die US-Regierung und die Technologiebranche haben sich Forderungen nach einem Moratorium widersetzt und argumentiert, die Befürchtungen einer „KI-Apokalypse“ seien vehement übertrieben. Kritiker eines Entwicklungsstopps befürchten, dieser würde Innovationen ersticken, das Wirtschaftswachstum bremsen und die potenziellen Vorteile von KI in Medizin, Klimaforschung und Automatisierung zunichtemachen.

Laut einer von FLI in Auftrag gegebenen nationalen Umfrage spricht sich die amerikanische Öffentlichkeit jedoch mehrheitlich für eine strengere Aufsicht aus. Die Befragung von 2.000 Erwachsenen ergab, dass drei Viertel derdenteine stärkere Regulierung fortgeschrittener KI befürworten und sechs von zehn der Meinung sind, dass übermenschliche KI erst dann entwickelt werden sollte, wenn ihre Kontrollierbarkeit nachgewiesen ist. 

Bevor Sam Altman CEO von OpenAI wurde, warnte er in einem Blogbeitrag aus dem Jahr 2015: „Übermenschliche Maschinenintelligenz ist wahrscheinlich die größte Bedrohung für den Fortbestand der Menschheit.“

Ähnlich äußerte sich Elon Musk, der die Entwicklung von KI sowohl finanziert als auch bekämpft hat. Anfang des Jahres sagte er in Joe Rogans Podcast, dass die Wahrscheinlichkeit einer Vernichtung durch eine KI, die die menschliche Intelligenz übertrifft, „nur 20 % beträgt“.