US-Medien und Tech-Persönlichkeiten fordern Stopp der Entwicklung superintelligenter KI

Eine Koalition aus US-Rechtspopulisten, Wissenschaftlern und Tech-Führern fordert ein globales Verbot der Entwicklung superintelligenter künstlicher Intelligenz (KI), bis die Wissenschaft sicherstellt, dass sie kontrollierbar ist, parallel zur Unterstützung durch die Öffentlichkeit.

Laut einem Bericht von Reuters am Mittwoch wurde die vom Future of Life Institute (FLI) koordinierte Bitte durch eine gemeinsame Erklärung bekannt gegeben, die von mehr als 850 öffentlichen Persönlichkeiten unterzeichnet wurde. 

Das Dokument fordert Regierungen und KI-Unternehmen auf, alle Superintelligenz-Arbeiten, KI-Systeme, die angeblich über menschliche kognitive Fähigkeiten hinausragen, auszusetzen, bis öffentlich genehmigte Sicherheitsmechanismen eingeführt werden.

Verbündete schließen sich zusammen, um die Entwicklung superintelligenter KI zu stoppen 

Die Unterzeichner der Koalition werden von rechtspopulären Medienpersönlichkeiten wie Steve Bannon und Glenn Beck angeführt, zusammen mit führenden KI-Forschern wie Geoffrey Hinton und Yoshua Bengio. Weitere Persönlichkeiten sind Virgin-Group-Gründer Richard Branson, Apple-Mitbegründer Steve Wozniak und ehemalige US-Militär- und Regierungsbeamte. 

Die Liste umfasst auch den ehemaligen Vorsitzenden der Joint Chiefs of Staff, Mike Mullen, die ehemalige National Security Advisor Susan Rice sowie den Herzog und die Herzogin von Sussex, Prinz Harry und Meghan Markle, mit der ehemaligen Präsidentin Irlands, Mary Robinson.

Der renommierte Informatiker Yoshua Bengio sprach über die Ängste der Koalition in einer Erklärung auf der Website der Initiative und sagte, KI-Systeme könnten bald die meisten Menschen bei kognativen Aufgaben übertreffen. Bengio betonte erneut, dass Technologie dabei helfen könnte, globale Probleme zu lösen, aber immense Gefahren darstellt, wenn sie rücksichtslos entwickelt wird.

„Um sicher zur Superintelligenz voranzuschreiten, müssen wir wissenschaftlich bestimmen, wie wir KI-Systeme so gestalten, dass sie grundsätzlich unfähig sind, Menschen zu schaden, sei es durch Fehlausrichtung oder böswillige Nutzung“, sagte er. „Wir müssen auch sicherstellen, dass die Öffentlichkeit ein viel größeres Mitspracherecht bei Entscheidungen hat, die unsere kollektive Zukunft prägen werden.“

Das Future of Life Institute, eine 2014 gegründete Nonprofit-Organisation mit früher Unterstützung durch Tesla CEO Elon Musk und Tech-Investor Jaan Tallinn, gehört ebenfalls zu den Gruppen, die für eine verantwortungsvolle KI-Regulierung kämpfen. 

Die Organisation warnt davor, dass der Wettlauf um den Bau superintelligenter KI oder künstlicher Superintelligenz (ASI) irreversible Risiken für die Menschheit schaffen könnte, wenn er nicht angemessen reguliert wird.

In ihrer neuesten Stellungnahme bemerkte die Gruppe, dass Superintelligenz zu „wirtschaftlicher Obsoleszenz des Menschen, Entmündigung, Verlust von Freiheit, bürgerlichen Freiheiten, Würde und Kontrolle sowie Bedrohungen der nationalen Sicherheit und sogar dem potenziellen Aussterben der Menschheit“ führen könnte.

Das FLI bittet politische Entscheidungsträger, die Forschung und Entwicklung von Superintelligenz vollständig zu verbieten, bis es „starke öffentliche Unterstützung“ und „wissenschaftlichen Konsens darüber gibt, dass solche Systeme sicher gebaut und kontrolliert werden können.“

Tech-Industrie gespalten über KI-Entwicklung

Tech-Giganten versuchen weiterhin, die Grenzen der KI-Fähigkeiten zu erweitern, obwohl einige Gruppen gegen die Auswirkungen auf Arbeitsplätze und Produktentwicklung sind. Elons Musk’s xAI, Sam Altman’s OpenAI und Meta sind alle im Wettlauf, um leistungsstarke Large Language Models (LLMs) zu entwickeln. 

Im Juli sagte Meta-CEO Mark Zuckerberg während einer Konferenz, dass die Entwicklung superintelligenter Systeme „in Sichtweite“ sei. Einige KI-Experten behaupten jedoch, der Meta-CEO nutze Marketing-Taktiken, um Konkurrenten darüber zu erschrecken, wie sein Unternehmen in einem Sektor, der in den kommenden Jahren Hunderte von Milliarden Dollar einbringen wird, „vorne“ liegt.

Die US-Regierung und die Technologiebranche haben Forderungen nach einem Moratorium widerstanden und argumentiert, dass die Angst vor einem „KI-Apokalypse“ vehement übertrieben sei. Kritiker eines Entwicklungsstopps sagen, dies würde Innovationen ersticken, das Wirtschaftswachstum verlangsamen und die potenziellen Vorteile, die KI für Medizin, Klimawissenschaft und Automatisierung bringen könnte, zunichtemachen.

Laut einer nationalen Umfrage, die vom FLI in Auftrag gegeben wurde, ist die amerikanische Öffentlichkeit jedoch größtenteils für strengere Aufsicht. Die Umfrage von 2.000 Erwachsenen ergab, dass drei Viertel der Befragten mehr Regulierung fortschrittlicher KI unterstützen, und sechs von zehn glauben, dass supermenschliche KI nicht entwickelt werden sollte, bis ihre Kontrollierbarkeit nachgewiesen ist. 

Bevor Sam Altman OpenAI-Chef wurde, warnte er in einem Blog-Beitrag aus dem Jahr 2015, dass „supermenschliche Maschinenintelligenz wahrscheinlich die größte Bedrohung für das Fortbestehen der Menschheit“ darstellt.

Ähnlich sagte Elon Musk, der gleichzeitig die KI-Fortschritte finanziert und bekämpft hat, Anfang dieses Jahres in Joe Rogans Podcast dass es „nur eine 20%ige Chance auf Vernichtung“ durch KI gebe, die die menschliche Intelligenz übertrifft.