UN-Menschenrechtschef Türk warnt: Fortgeschrittene KI könnte die Menschheit bedrohen, fordert „rote Linien“
Foto von UN-Handels- und Entwicklungskonferenz (UNCTAD) auf Flickr.
- Der UN-Menschenrechtsbeauftragte Volker Türk warnte, dass zunehmend leistungsfähige KI ein existenzielles Risiko darstellen könnte.
- Türk forderte die Regierungen auf, vorrangig durchsetzbare „rote Linien“ zu vereinbaren, bevor die Technologie die menschliche Kontrolle überholt.
- Die UN will die freiwilligen Warnungen in verbindliche internationale Regeln umwandeln.
Der Hohe Kommissar der Vereinten Nationen (UN) für Menschenrechte, Volker Türk, warnte heute, am 7. September, vor dem Menschenrechtsrat in Genf öffentlich vor den Fähigkeiten der künstlichen Intelligenz, die ein existenzielles Bedrohungspotenzial für die Menschheit entwickeln könnten. Türk drängte Regierungen, schnell Vorkehrungen zu treffen und die KI-Labs an der Spitze des Wettlaufs um autonome Systemtechnologien zu drosseln, um ein Entgleiten aus der Kontrolle angesichts eskalierender Sicherheitsvorfälle zu verhindern.
Türk drängte Regierungen, schnell Vorkehrungen zu treffen und die KI-Labs an der Spitze des Wettlaufs um autonome Systemtechnologien zu drosseln, um ein Entgleiten aus der Kontrolle angesichts eskalierender Sicherheitsvorfälle zu verhindern.
Das größte Problem für die UN-Exekutive besteht darin, dass sich die Systeme, in denen die KI-Technologie wächst, schneller entwickeln als die derzeitigen Governance-Systeme sie nachverfolgen können. Dieses ungebremste Wachstum hat die Bedrohungen nun über Desinformation und Jobverlust hinaus in existenzielle Bereiche wie Sicherheit, Rechenschaftspflicht und unkontrollierte Aufsicht über hochautonome Systeme eskalieren lassen.
UN-Menschenrechtschef fordert dringende internationale Maßnahmen
Türk verwies auf ein sich schließendes Zeitfenster, in dem die Fähigkeiten der KI noch kontrolliert werden können, als Grundlage für die Dringlichkeit seines Aufrufs zu international koordinierten Maßnahmen. Er betonte auch Finanzierungsstrukturen hervor, wie das Tempo und die Richtung der Fortschritte in diesem Bereich unverhältnismäßig in den Händen einer kleinen Gruppe von Technologieexecutives und -firmen.
Türk schlug eine Lösung für die von ihm angesprochenen roten Flaggen vor. Seine Alternative besteht darin, dass die Länder, in denen diese führenden KI-Unternehmen ansässig sind, sowie diejenigen, die kritische Lieferketten kontrollieren, ihre Anstrengungen verstärken und „rote Linien“ ziehen, wie weit sie die Technologie gehen lassen wollen.
Der Hohe Kommissar der Vereinten Nationen für Menschenrechte greift ein Thema wieder auf, das der internationale Gremium im Juli in derselben Schweizer Stadt beim ersten Globalen Dialog zur KI-Governance behandelt hatte.
Bei der ITU-Konferenz „AI for Good“, wo die Diskussion begann, sagte Türk: „Wir betrachten Sicherheitsstandards für Arzneimittel, Autos oder Flugzeuge nicht als Hindernisse für den Fortschritt“, laut UN-Aufnahmen. „Sie sind der Grund, warum Menschen diesen Technologien überhaupt vertrauen.“ Menschliche Aufsicht dürfe „keine bloße Formalie“ sein, fügte er hinzu.
Ein Teil der Beweise, die die Diskussion auf diesem Gipfel antrieben wurde von Sonia Livingstone des von der UN mandatierten Globalen Wissenschaftsgremiums für KI präsentiert. In einer Studie, die 11 Länder des Globalen Südens abdeckte, gab zu diesem Zeitpunkt mindestens ein Kind pro Klasse an, Opfer sexuell expliziter KI-Deepfakes gewesen zu sein.
Die UN-Frauenchefin Sima Bahous wies ebenfalls auf die geschlechtsspezifische Verzerrung hin. Ihrer Aussage nach sind etwa 88 % der Top-KI-Forscher. Sie berichtete auch, dass mindestens jede vierte von ihrer Agentur befragte Aktivistin und Journalistin KI-unterstützte Online-Belästigung erfahren hatte.
KI-Labs und Gesetzgeber haben die Probleme erkannt
Die UN ist nicht die einzige, die diesen Sommer Alarm schlägt. Der US-Senator Bernie Sanders hat eine sofortige Pause für fortgeschrittene KI-Arbeiten und ein dauerhaftes Verbot von Superintelligenz gefordert, während eine parteiübergreifende Gruppe britischer Parlamentarier nach einer Reihe von Vorfällen mit „ausgearteter“ KI gesetzlich vorgeschriebene KI-„Kill-Switches“ forderte.
Diese Ängste folgten auf die Behauptung von OpenAI, die mit seinem GPT-6 Astra-Modell, verbunden war, dass seine Technologie die allgemeine künstliche Intelligenz erreicht habe, sowie auf die Eingeständnisse von Anthropic, dass seine eigenen Modelle „nicht perfekt mit menschlichen Werten übereinstimmten“.
Ein Teil dieses Drucks kommt aus der Branche selbst. In einem Juni-Aufsatz der von Axiosberichtet wurde, argumentierte Anthropic-CEO Dario Amodei, dass Regierungen die rechtliche Macht haben sollten, gefährliche KI-Einsätze zu blockieren oder rückgängig zu machen, und dass Frontier-Modelle obligatorischen Tests unterzogen werden sollten, ähnlich wie Autos, Flugzeuge oder neue Arzneimittel.
In seinem eigenen Rat-Update erweiterte Türk das Thema auf das Schlachtfeld und unterstützte Aufrufe, Waffen zu verbieten, die ohne menschliches Zutun töten können.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Häufig gestellte Fragen
Wovor hat Volker Türk genau gewarnt?
Türk, der Hohe Kommissar der Vereinten Nationen für Menschenrechte, warnte, dass zunehmend leistungsfähige KI langfristig eine existenzielle Bedrohung für die Menschheit darstellen könnte, und forderte dringende Schutzmaßnahmen, bevor ihre Fähigkeiten die effektive menschliche Kontrolle übersteigen.
Was sind die „roten Linien“, die Türk vorschlug?
Er argumentierte, dass Länder mit großen KI-Unternehmen und solche, die kritische Lieferketten kontrollieren, klare Grenzen oder „rote Linien“ für die KI-Entwicklung vereinbaren sollten, um die Konzentration von KI-Macht in den Händen weniger Führungskräfte und Unternehmen einzudämmen.
Wie hängt dies mit dem weiteren KI-Engagement der UN zusammen?
Dies schließt an den ersten Globalen Dialog zur KI-Governance an, der im Juli in Genf stattfand, bei dem Experten wachsende Beweise für durch KI verursachte Schäden meldeten. Die UN drängt nun auf harmonisierte internationale Regeln; ein zweiter Dialog ist für nächsten Mai in New York geplant.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.
