Die besten Krypto-Einblicke direkt in Ihren Posteingang.
Nobelpreisträger schließen sich Politikern und Wissenschaftlern in einem dringenden Aufruf zur Einschränkung gefährlicher KI-Anwendungen an
- Über 200 führende Persönlichkeiten, darunter 10 Nobelpreisträger und führende KI-Forscher, fordern verbindliche internationale Beschränkungen für gefährliche KI-Anwendungen bis 2026.
- Zu den vorgeschlagenen Verboten gehören letale autonome Waffensysteme, sich selbst replizierende KI und KI in der nuklearen Kriegsführung.
- Der globale Aufruf, der bei der UN-Generalversammlung vorgestellt wurde, betont, dass freiwillige Zusagen von KI-Unternehmen nicht ausreichen.
Die Kampagne, die Regierungen dazu bewegen soll, sich auf verbindliche internationale Beschränkungen zur Eindämmung des Missbrauchs von KI-Technologie zu einigen, wurde auf die UN-Ebene eskaliert, da mehr als 200 führende Politiker, Wissenschaftler und Vordenker, darunter 10 Nobelpreisträger, vor den Risiken der Technologie gewarnt haben.
Die am Montag zur Eröffnung der hochrangigen Woche der UN-Generalversammlung veröffentlichte Erklärung trägt den Titel „Globaler Aufruf zu roten Linien für KI“. Darin wird argumentiert, dass die gegenwärtige Entwicklung der KI „dentGefahren birgt“ und gefordert, dass die Staaten bis Ende 2026 auf ein internationales Abkommen über klare und überprüfbare Beschränkungen hinarbeiten.
Nobelpreisträger führen Appell vor der UNO an.
Der Appell wurde von der Friedensnobelpreisträgerin und Journalistin Maria Ressa veröffentlicht, die in ihrer Eröffnungsrede die Regierungen dazu aufrief, „universell inakzeptable Risiken zu verhindern“ und defi, was KI niemals tun darf.
Zu den Unterzeichnern der Erklärung gehören Nobelpreisträger in Chemie, Wirtschaftswissenschaften, Friedensforschung und Physik sowie namhafte Autoren wie Stephen Fry und Yuval Noah Harari. Auch die ehemalige irischedent Mary Robinson und der ehemalige kolumbianischedent Juan Manuel Santos, der ebenfalls den Friedensnobelpreis trägt, haben die Erklärung unterzeichnet.
Geoffrey Hinton und Yoshua Bengio, die im Volksmund als „Väter der KI“ bekannt sind und den Turing Award gewonnen haben, der weithin als Nobelpreis der Informatik gilt, haben die Erklärung ebenfalls unterzeichnet.
„Dies ist ein Wendepunkt“, sagte Harari. „Die Menschheit muss sich auf klare rote Linien für KI einigen, bevor die Technologie die Gesellschaft in einem Ausmaß umgestaltet, das unser Verständnis übersteigt, und die Grundlagen unserer Menschlichkeit zerstört.“
Bisherige Bemühungen, vor den Gefahren von KI zu warnen, konzentrierten sich oft auf freiwillige Verpflichtungen von Unternehmen und Regierungen. Im März 2023 forderten über 1.000 führende Technologieexperten, darunter Elon Musk, einen Entwicklungsstopp für leistungsstarke KI-Systeme. Wenige Monate später unterzeichneten KI-Manager wie Sam Altman von OpenAI und von Google DeepMind eine kurze Erklärung, in der sie die existenziellen Risiken von KI mit denen eines Atomkriegs oder einer Pandemie gleichsetzten.
KI schürt Ängste vor existenziellen und gesellschaftlichen Risiken
Erst letzte Woche wurde KI mit Fällen in Verbindung gebracht, die vom Selbstmord eines Teenagers bis hin zu Berichten über ihren Einsatz zur Manipulation öffentlicher Debatten reichen.
Die Unterzeichner des Aufrufs argumentieren, dass diese unmittelbaren Risiken bald von größeren Bedrohungen in den Schatten gestellt werden könnten. Kommentatoren warnen davor, dass hochentwickelte KI-Systeme, wenn sie nicht kontrolliert werden, zu Massenarbeitslosigkeit, künstlich herbeigeführten Pandemien oder systematischenmatic führen könnten.
Zu den Punkten auf der Embargoliste gehören unter anderem das Verbot letaler autonomer Waffensysteme, das Verbot sich selbst replizierender KI-Systeme und die Gewährleistung, dass KI niemals in einem Atomkrieg eingesetzt wird.
„Es liegt in unserem vitalen gemeinsamen Interesse, zu verhindern, dass KI der Menschheit ernsthaften und möglicherweise irreversiblen Schaden zufügt, und wir sollten entsprechend handeln“, sagte Ahmet Üzümcü, der ehemalige Generaldirektor der Organisation für das Verbot chemischer Waffen, die unter seiner Führung 2013 den Friedensnobelpreis gewann.
Mehr als 60 zivilgesellschaftliche Organisationen haben den Brief unterzeichnet, darunter der britische Thinktank Demos und das Pekinger Institut für KI-Sicherheit und -Governance. Die Initiative wird von drei gemeinnützigen Organisationen koordiniert: dem Center for Human-Compatible AI der University of California, Berkeley; The Future Society; und dem französischen Zentrum für KI-Sicherheit.
Trotz der jüngsten Sicherheitszusagen von Unternehmen wie OpenAI und Anthropic, die sich bereit erklärt haben, ihre Modelle vor der Veröffentlichung von der Regierung testen zu lassen, deuten Untersuchungen darauf hin, dass die Unternehmen nur etwa die Hälfte ihrer Verpflichtungen erfüllen.
„Wir können es uns nicht leisten zu warten“, sagte Ressa. „Wir müssen handeln, bevor die KI sich so weit entwickelt, dass wir sie nicht mehr kontrollieren können.“
Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast zehn Jahren Erfahrung im Bloggen und der Eventberichterstattung im Kryptobereich. Bei Cryptopolitanschreibt sie für die Nachrichtenseite und berichtet und analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Kryptoregulierung, KI und Zukunftstechnologien. Sie hat an der Arcadia University Betriebswirtschaftslehre studiert.
CRASH-KURS
- Mit welchen Kryptowährungen kann man Geld verdienen?
- Wie Sie Ihre Sicherheit mit einer digitalen Geldbörse erhöhen können (und welche sich tatsächlich lohnen)
- Wenig bekannte Anlagestrategien, die Profis anwenden
- Wie man mit dem Investieren in Kryptowährungen beginnt (welche Börsen man nutzen sollte, welche Kryptowährung am besten zum Kauf geeignet ist usw.)