UN-Menschenrechtskommissarin Türk warnt vor möglichen Bedrohungen der Menschheit durch fortschrittliche KI und drängt auf die Festlegung von „roten Linien“
Foto von UN Trade and Development (UNCTAD) auf Flickr.
- Der UN-Hochkommissar für Menschenrechte, Volker Türk, warnte davor, dass immer leistungsfähigere KI zu einer existenziellen Bedrohung werden könnte.
- Türk forderte die Regierungen auf, sich auf durchsetzbare „rote Linien“ zu einigen, bevor die Technologie die menschliche Kontrolle überholt.
- Die UN will, dass die freiwillige Alarmbereitschaft in verbindliche internationale Regeln umgewandelt wird.
Der Hohe Kommissar der Vereinten Nationen für Menschenrechte, Volker Türk, warnte heute, am 7. September, im Menschenrechtsrat in Genf öffentlich davor, dass die Fähigkeiten der künstlichen Intelligenz so weit wachsen könnten, dass sie zu einer existenziellen Bedrohung für die Menschheit werden.
Türk drängte die Regierungen, schnellstmöglich Schutzmaßnahmen zu ergreifen und die KI-Labore an der Spitze des Wettlaufs um die Entwicklung autonomer Systeme einzudämmen, damit diese angesichts zunehmender Sicherheitslücken unddentnicht außer Kontrolle geraten.
Die größte Sorge der UN-Exekutive besteht darin, dass die Systeme, die von KI-Technologie gesteuert werden, schneller wachsen, als die derzeitigen Kontrollsysteme sie trackönnen. Dieses ungebremste Wachstum hat die Bedrohungen über Fehlinformationen und Arbeitsplatzverluste hinaus auf existenzielle Bereiche wie Sicherheit, Rechenschaftspflicht und unkontrollierte Aufsicht über hochautonome Systeme ausgeweitet.
Die UN-Hochkommissarin für Menschenrechte fordert dringendes internationales Handeln
Türk begründete seine Dringlichkeit für international koordiniertes Handeln mit dem sich schließenden Zeitfenster, in dem die Fähigkeiten der KI noch überprüft werden können. Er kritisierte , dass Tempo und Richtung der Entwicklung in diesem Bereich unverhältnismäßig stark von einem kleinen Kreis von Technologiemanagern und -unternehmen.
Türk schlug eine Lösung für die von ihm angesprochenen Probleme vor. Sein Alternativvorschlag sieht vor, dass die Länder, in denen diese führenden KI-Unternehmen ansässig sind, und diejenigen, die kritische Lieferketten kontrollieren, aktiv werden und klare Grenzen ziehen, wie weit sie die Technologie zulassen wollen.
Der UN-Hochkommissar für Menschenrechte greift ein Thema erneut auf, das die internationale Organisation bereits im Juli beim ersten Globalen Dialog über KI-Governance in derselben Schweizer Stadt behandelt hatte.
Auf dem ITU-Gipfel „KI für das Gemeinwohl“, wo die Diskussion ihren Anfang nahm, sagte Türk laut UN-Aufnahmen. Sie sind vielmehr der Grund, warum die Menschen diesen Technologien überhaupt vertrauen.“ Menschliche Kontrolle, fügte er hinzu, „darf nicht nur eine Formsache sein.“
Ein Teil der Beweise, die die Diskussion auf dem Gipfeltreffen , wurde von Sonia Livingstone vom UN-mandatierten Globalen Wissenschaftlichen Gremium für KI präsentiert. Laut einer Studie, die elf Länder des Globalen Südens umfasste, gab zu diesem Zeitpunkt mindestens ein Kind pro Schulklasse an, Opfer von sexuell expliziten KI-Deepfakes geworden zu sein.
Die Leiterin von UN Women, Sima Bahous, wies ebenfalls auf die geschlechtsspezifische Voreingenommenheit hin . Laut ihren Angaben sind etwa 88 % der führenden KI-Forscherinnen und -Forscher KI-gestützt. Sie berichtete außerdem, dass mindestens jede vierte der von ihrer Organisation befragten Aktivistinnen und Journalistinnen Opfer von KI-gestütztem Online-Missbrauch geworden sei.
KI-Labore und Gesetzgeber haben die Problematik erkannt
Die UN ist nicht die einzige Organisation, die in diesem Sommer Alarm schlägt. US-Senator Bernie Sanders forderte einen sofortigen Stopp der Entwicklung fortgeschrittener KI und ein dauerhaftes Verbot von Superintelligenz, während eine parteiübergreifende Gruppe britischer Parlamentarier nach einer Reihe von Vorfällen mit außer Kontrolle geratener KI gesetzlich vorgeschriebene KI-„Not-Aus-Schalter“dent.
Diese Befürchtungen folgten auf OpenAIs Behauptung, im Zusammenhang mit seinem GPT-6 Astra-Modell, dass seine Technologie eine künstliche allgemeine Intelligenz erreicht habe, und auf Anthropics Eingeständnis, dass seine eigenen Modelle „nicht perfekt mit menschlichen Werten übereinstimmen“.
Ein Teil dieses Drucks kommt aus der Branche selbst. In einem im Juni von Axios veröffentlichtenargumentierte Dario Amodei, CEO von Anthropic, dass Regierungen die rechtliche Befugnis haben sollten, gefährliche KI-Einsätze zu blockieren oder rückgängig zu machen, und dass zukunftsweisende Modelle – ähnlich wie Autos, Flugzeuge oder neue Medikamente – obligatorischen Tests unterzogen werden sollten.
In seinem eigenen Bericht an den Rat dehnte Türk das Thema auf das Schlachtfeld aus und unterstützte Forderungen nach einem Verbot von Waffen, die ohne menschliches Zutun töten können.
Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.
Häufig gestellte Fragen
Wovor hat Volker Türk eigentlich gewarnt?
Türk, der UN-Hochkommissar für Menschenrechte, warnte davor, dass immer leistungsfähigere KI letztendlich eine existenzielle Bedrohung für die Menschheit darstellen könnte, und forderte dringende Schutzmaßnahmen, bevor ihre Fähigkeiten außer Kontrolle geraten.
Was sind die von Türk vorgeschlagenen „roten Linien“?
Er argumentierte, dass Länder, die große KI-Firmen beherbergen, und solche, die kritische Lieferketten kontrollieren, sich auf klare Grenzen oder „rote Linien“ für die KI-Entwicklung einigen sollten, um die Konzentration der KI-Macht in den Händen einer kleinen Anzahl von Führungskräften und Unternehmen einzudämmen.
Wie hängt das mit den umfassenderen KI-Initiativen der UN zusammen?
Dies folgt auf den ersten Globalen Dialog über KI-Governance, der im Juli in Genf stattfand und bei dem Experten über zunehmende Beweise für KI-bedingte Schäden berichteten. Die UN drängt nun auf harmonisierte internationale Regeln; ein zweiter Dialog ist für Mai nächsten Jahres in New York geplant.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan/ übernimmt keine Haftung für Investitionen, die auf Grundlage der Informationen auf dieser Seite getätigt werden. Wirtronempfehlen dringend, vor jeder Anlageentscheidung eigene Recherchen durchzuführendent oder einen qualifizierten Fachmann zu konsultieren
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast zehn Jahren Erfahrung im Bloggen und der Eventberichterstattung im Kryptobereich. Bei Cryptopolitanschreibt sie für die Nachrichtenseite und berichtet und analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Kryptoregulierung, KI und Zukunftstechnologien. Sie hat an der Arcadia University Betriebswirtschaftslehre studiert.
