400 Wissenschaftler fordern globale Aufsicht für fortgeschrittene KI
- Etwa 400 Wissenschaftler aus 34 Ländern, angeführt von Geoffrey Hinton und Yoshua Bengio, unterzeichneten am Dienstag einen offenen Brief, der die Einrichtung eines internationalen Gremiums zur Festlegung von Containment-Standards und zur Verfolgung von Sicherheitsvorfällen bei fortschrittlicher KI forderte.
- Sie sind der Ansicht, dass freiwillige Zusagen von Unternehmen wie OpenAI, Anthropic und Google nicht ausreichen, und fordern, dass Frontier-Modelle luftgetrennt und unabhängig überwacht werden.
- Jüngste Vorfälle und ein unverbindliches Abkommen des Weißen Hauses haben dazu geführt, dass leistungsfähige, cyberfähige KI-Systeme weitgehend selbstregulierend agieren.
Rund 400 Wissenschaftler, darunter KI-Pioniere wie Geoffrey Hinton und Yoshua Bengio, haben am Dienstag einen offenen Brief unterzeichnet, in dem sie die Schaffung einer internationalen Behörde mit der Befugnis zur Durchsetzung von Containment-Regeln und zur Verpflichtung zur Meldung von Vorfällen bei fortschrittlichen KI-Systemen fordern, die Cyberangriffe durchführen können.
Unterstützt von Forschern aus 34 Ländern fordert der Brief, dass Frontier-KI-Modelle von Anfang an von externen Netzwerken isoliert werden – eine Praxis, die als Air-Gapping bekannt ist –, und unter unabhängige Aufsicht gestellt werden.
Reuters berichtete, dass der vorgeschlagene Ausschuss branchenweite Containment-Standards festlegen und ein Verzeichnis schwerwiegender Sicherheitsvorfälle führen würde; zudem sollten Unterzeichner von Informationen, die schließlich öffentlich gemacht werden würden.
Die Wissenschaftler drängen Organisationen, die cyberfähige KI-Modelle entwickeln oder testen, unverzüglich strenge Containment-Maßnahmen zu ergreifen, ohne auf die Einführung formaler Aufsichtsregeln durch Regierungen oder die Verabschiedung von Gesetzen zu warten.
Freiwillige Zusagen reichen nicht aus
Die Forscher sind der Ansicht, dass freiwillige Sicherheitszusagen von KI-Entwicklern kaum zur Sicherstellung von Rechenschaftspflicht beitragen. Ihr Appell kam etwa einen Monat nach der Unterzeichnung eines Abkommens im Weißen Haus durch Anthropic, OpenAI, Google, Meta, xAI und Nvidia zur Einführung von Sicherheitsmaßnahmen, dessen Zusagen nicht rechtlich bindend sind.
Die Wissenschaftler wiesen auf jüngste Fälle hin, in denen KI-Modelle schlecht gesicherte Testumgebungen verlassen und auf externe Systeme zugegriffen haben, und behaupteten, diese Vorfälle hätten die Mängel bei den Bemühungen zur Kontrolle der KI-Technologie offengelegt.
Hinton und Bengio erhielten den Turing Award 2018 gemeinsam mit Yann LeCun, dem Chief AI Scientist von Meta. LeCun lehnte es ab, seinen Namen hinzuzufügen und betonte, dass die in dem Brief genannten Vorfälle auf Mängel im Engineering zurückzuführen sind und nicht auf eine drohende existenzielle Bedrohung durch KI, according to Reuters.
Wissenschaftler warnen: Es bleibt weniger als ein Jahr zur Aktion
Der Aufruf der Wissenschaftler fügt sich in die wachsende Zahl von Warnungen aus der KI-Branche ein. Nach einer geschlossenen Anhörung auf dem Capitol Hill im September sagte Hinton gegenüber Reportern, Gesetzgeber könnten nur noch ein Jahr Zeit haben, um Schutzmaßnahmen einzuführen, bevor KI die menschliche Kontrolle deutlich übersteigt.
Hinton und andere führende Forscher von OpenAI, Anthropic und Microsoft warnten in einem früheren Oktober veröffentlichten Papier, dass KI-Systeme, die in der Lage sind, ihre eigene Entwicklung zu automatisieren, eine „Intelligenzexplosion“ auslösen könnten, wodurch Jahre an Fortschritt auf Monate oder weniger komprimiert würden. Sie forderten Regierungen auf, Aufsichtsmechanismen einzuführen, bevor solche schnellen Entwicklungen bei KI stattfinden.
Regulierungsbehörden scheinen jedoch nach wie vor unsicher und gespalten, was den Umfang der Aufsicht betrifft, die KI derzeit tatsächlich benötigt. Die EU-Technologiekommissarin Henna Virkkunen erklärte am 9. Oktober gegenüber Reuters, dass der AI Act der Union bereits angemessene Schutzmaßnahmen gegen unkontrollierte KI-Systeme biete. Zwei Tage darauf hob die Trump-Administration auch Beschränkungen für US-KI-Labore auf, die Modelle an das britische AI Security Institute zu jeder Form von frühen Sicherheitstests bereitstellen.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Opeyemi Olanrewaju
Opeyemi spezialisiert sich auf die Erstellung und Verfeinerung hochwertiger Inhalte mit Fokus auf Kryptowährungen, globale Finanzmärkte und die Wirtschaft. Er absolvierte sein Studium an der University of Ibadan mit einem MBBS-Abschluss. Er war Chefredakteur der redaktionellen Publikation seines Colleges und zuvor bei CFA tätig. Seit über sechs Jahren sorgt er als News Editor bei Cryptopolitan für die Einzigartigkeit der Inhalte.
