Nobelpreisträger schließen sich Politikern und Wissenschaftlern in dringender Aufforderung an, gefährliche KI-Anwendungen einzudämmen
- Über 200 Führungspersönlichkeiten, darunter 10 Nobelpreisträger und führende KI-Forscher, fordern verbindliche internationale Grenzen für gefährliche KI-Anwendungen bis 2026.
- Zu den vorgeschlagenen Verboten gehören tödlich autonome Waffen, sich selbst replizierende KI und der Einsatz von KI im Atomkrieg.
- Der globale Aufruf, der auf der Generalversammlung der Vereinten Nationen vorgestellt wurde, betont, dass freiwillige Zusagen von KI-Unternehmen unzureichend sind.
Die Kampagne, Regierungen dazu zu bringen, sich auf verbindliche internationale Grenzen zur Eindämmung des Missbrauchs von KI-Technologie zu einigen, wurde auf UN-Ebene eskaliert, da mehr als 200 führende Politiker, Wissenschaftler und Denker, darunter 10 Nobelpreisträger, eine Warnung vor den Risiken der Technologie herausgegeben haben.
Die Erklärung, die am Montag zur Eröffnung der High-Level-Woche der Generalversammlung der Vereinten Nationen veröffentlicht wurde, wird als „Global Call for AI Red Lines“ (Globaler Aufruf für rote Linien für KI) bezeichnet. Sie argumentiert, dass die „aktuelle Entwicklung von KI beispiellose Gefahren“ darstellt, und fordert die Länder auf, bis Ende 2026 zu einer internationalen Vereinbarung über klare, überprüfbare Beschränkungen hinzuwirken.
Nobelpreisträger führen die Bitte an der UNO an
Die Bitte wurde von der Friedensnobelpreisträgerin und Journalistin Maria Ressa enthüllt, die in ihrer Eröffnungsrede die Regierungen aufforderte, „universell inakzeptable Risiken zu verhindern“ und zu definieren, was KI niemals tun dürfen sollte.
Zu den Unterzeichnern der Erklärung gehören Nobelpreisträger in den Bereichen Chemie, Wirtschaft, Frieden und Physik, neben gefeierten Autoren wie Stephen Fry und Yuval Noah Harari. Die ehemalige irische Präsidentin Mary Robinson und der ehemalige kolumbianische Präsident Juan Manuel Santos, der ebenfalls Friedensnobelpreisträger ist, stellten ebenfalls ihre Namen zur Verfügung.
Geoffrey Hinton und Yoshua Bengio, die allgemein als „Väter der KI“ bekannt sind und Gewinner des Turing-Preises sind, der weithin als der Nobelpreis der Informatik gilt, fügten ebenfalls ihre Unterschriften unter die Erklärung.
„Dies ist ein Wendepunkt“, sagte Harari. „Menschen müssen sich auf klare rote Linien für KI einigen, bevor die Technologie die Gesellschaft über unser Verständnis hinaus verändert und die Grundlagen unserer Menschlichkeit zerstört.“
Vergangene Bemühungen, die Alarmglocken über KI zu läuten, konzentrierten sich oft auf freiwillige Verpflichtungen von Unternehmen und Regierungen. Im März 2023 forderten mehr als 1.000 Technologieführer, darunter Elon Musk, eine Pause bei der Entwicklung leistungsstarker KI-Systeme. Ein paar Monate später unterzeichneten KI-Executives wie OpenAIs Sam Altman und Google DeepMinds Demis Hassabis eine kurze Erklärung, die die existenziellen Risiken von KI mit denen von Atomkrieg und Pandemien gleichsetzte.
KI schürt Ängste vor existenziellen und gesellschaftlichen Risiken
Erst letzte Woche wurde KI in Fällen von der Suizid eines Teenagers bis hin zu Berichten über ihre Verwendung zur Manipulation der öffentlichen Debatte in Mitleidenschaft gezogen.
Die Unterzeichner der Aufforderung argumentieren, dass diese unmittelbaren Risiken bald von größeren Bedrohungen überlagert werden könnten. Kommentatoren haben gewarnt, dass fortschrittliche KI-Systeme zu Massenarbeitslosigkeit, konstruierten Pandemien oder systematischen Menschenrechtsverletzungen führen könnten, wenn sie nicht kontrolliert werden.
Einige der Gegenstände auf der embargo-Liste umfassen das Verbot von tödlichen autonomen Waffen, das Verbot selbstreplizierender KI-Systeme und die Sicherstellung, dass KI niemals im Atomkrieg eingesetzt wird.
„Es liegt in unserem lebenswichtigen gemeinsamen Interesse, zu verhindern, dass KI schwere und potenziell irreversible Schäden für die Menschlichkeit verursacht, und wir sollten entsprechend handeln“, sagte Ahmet Üzümcü, der ehemalige Generaldirektor der Organisation für das Verbot chemischer Waffen, die unter seiner Führung den Friedensnobelpreis 2013 gewann.
Mehr als 60 zivilgesellschaftliche Organisationen haben den Brief unterzeichnet, darunter das im Vereinigten Königreich ansässige Thinktank Demos und das Peking Institute of AI Safety and Governance. Die Bemühungen werden von drei gemeinnützigen Organisationen koordiniert: dem Center for Human-Compatible AI an der University of California, Berkeley; The Future Society; und dem französischen Center for AI Safety.
Trotz kürzlich gegebener Sicherheitszusagen von Unternehmen wie OpenAI und Anthropic, die staatliche Tests von Modellen vor der Veröffentlichung vereinbart haben, deuten Forschungsergebnisse darauf hin, dass Unternehmen nur etwa die Hälfte ihrer Zusagen einhalten.
„Wir können es uns nicht leisten zu warten“, sagte Ressa. „Wir müssen handeln, bevor KI über unser Vermögen hinaus fortschreitet, sie zu kontrollieren.“
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.
