König Karl warnt davor, KI zu kontrollieren, bevor sie „dunklere Fähigkeiten“ entwickelt, Leben zu nehmen
Foto von Arlington National Cemetery auf Flickr.
- König Karl III. berief führende KI-Experten von Nvidia, OpenAI, Anthropic und Google DeepMind ein und warnte sie, dass sie „ausreichende Kontrollmechanismen“ für KI entwickeln müssten.
- König Karl wies auf existenzielle Risiken hin, falls KI in die falschen Hände gerate.
- Die Führungskräfte hörten zu, gaben aber keine öffentlichen Zusagen ab.
Bei einem Gipfeltreffen in Schottland forderte König Karl III. die Chefs der weltweit größten KI-Unternehmen auf, Wege zu finden, um die Technologie unter menschlicher Kontrolle zu halten.
Der König warnte, dass die Erbauer nun befürchten, das Ding könne „dunklere Fähigkeiten“ entwickeln und sogar zum Töten eingesetzt werden.
Was sagt König Karl III. zur KI?
König Karl III. sprach im Dumfries House in East Ayrshire, einer von der Ditchley Foundation organisierten Veranstaltung, zu der rund 30 Führungskräfte, Beamte und Forscher kamen, darunter der britische KI-Minister Kanishka Narayan, der Vorstandsvorsitzende von Nvidia, Jensen Huang, der Mitbegründer von DeepMind, Demis Hassabis, die Finanzchefin von OpenAI, Sarah Friar, und der Leiter der globalen Angelegenheiten von Anthropic, Tino Cuéllar.
Auf der privaten Gästeliste, die Bloomberg einsehen konnte, befanden sich angeblich auch Namen wie MI6-Chef Blaise Metreweli, der Autor Yuval Noah Harari und Xue Lan von der Tsinghua-Universität.
Der 77-jährige Charles sprach nur etwa 20 Minuten, bevor er den Raum verließ, um hoffentlich produktive Gespräche zu führen. Diejenigen, denen die moralischen Grundwerte der Menschheit am Herzen liegen, sagte er, „suchen sehnsüchtig nach Ihrer Zusicherung, dass wir weder die Kontrolle über unser Schicksal noch über unsere Seelen verlieren werden.“
Charles nannte das Tempo der Technologie „gleichermaßen faszinierend und zutiefst besorgniserregend“. Er würdigte und lobte ihre Erfolge in Medizin und Lebenswissenschaften, bevor er eine direkte Frage stellte: „Brauchen wir nicht ausreichende Kontrollmöglichkeiten, bevor es zu spät ist?“
Der König bezog sich in seiner Warnung auf die Bedenken der Entwickler von KI-Technologien. Er sagte auch, dass die Systeme die Gefahr bergen, „dunklere Fähigkeiten zu entwickeln, vielleicht sogar Leben zu nehmen“. Er fügte hinzu, dass Führungskräfte die „existenziellen Gefahren“ bedenken sollten, die entstehen, wenn diese Technologien in die falschen Hände geraten.
Bereits zuvor hatte Charles eine Videobotschaft an den britischen KI-Sicherheitsgipfel 2023 in Bletchley Park gesendet, in der er ähnliche Ansichten zum Ausdruck brachte.
Der KI-Berater des Vatikans, Paolo Benanti, war beim Gipfeltreffen anwesend, und Papst Leo XIV. schrieb in einer Enzyklika vom Mai, dass die KI nicht in den Händen „wenigerer“ bleiben dürfe
Wird sich die KI-Entwicklung verlangsamen?
Hassabis erklärte den Delegierten, dass künstliche allgemeine Intelligenz – Systeme, die in der Lage sind, mit Menschen bei vielen Aufgaben mitzuhalten oder sie sogar zu übertreffen – „wahrscheinlich nur noch wenige Jahre entfernt“ sei
Er sagte, die Technologie könne ein zehnmal größeres Ausmaß an Auswirkungen haben als die Industrielle Revolution. Die Wahrscheinlichkeit, dass etwas schiefgeht, sei „definicht null“, fügte er hinzu, doch er betonte anschließend: „Die Zukunft ist noch nicht geschrieben.“
Friar sagte, die zunehmende Macht der Technologie werfe Fragen hinsichtlich ihrer Nutzung im Dienste der Menschen auf, und dass „kein einzelnes Unternehmen und keine einzelne Regierung dies allein leisten kann“
Huang, dessen Unternehmen Nvidia einen Wert von fast 5,15 Billionen US-Dollar hat, erklärte den Anwesenden, Sicherheit habe oberste Priorität und ein Produkt solle zurückgehalten werden, wenn es noch nicht ausgereift sei. Er plädierte dafür, KI-Produkte anstatt der Technologie selbst zu regulieren, und verteidigte offene Modelle, um kleinere Länder und Forscher vor dem Ausschluss zu bewahren.
Der Gipfel findet statt, nachdem ein viral gegangener Rücktrittspost des Anthropologen Jacob Coxon und eine Vorhersage seines Kollegen Evan Hubinger, dass KI eine 10%ige Wahrscheinlichkeit habe, das Aussterben der Menschheit zu verursachen, Besorgnis ausgelöst haben.
Cryptopolitan berichtete, dass Dario Amodei von Anthropics einen Essay veröffentlicht hat, in dem er die Labore auffordert, „die Grenzen zu erweitern“, und dass OpenAI diese Woche ein System eingeführt hat, das Fehlverhalten von Modellen offenlegen soll, nachdem sechs Vorfälledentbesorgniserregenden Verhaltens
Allerdings sind nicht alle der Ansicht, dass die Gefahr real ist:dent Donald Trump bezeichnete solche Befürchtungen als „Schwindel“
Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Was sagte König Karl auf dem KI-Gipfel?
Er warnte davor, dass die Schöpfer der KI selbst befürchten, sie könne „dunklere Fähigkeiten entwickeln, vielleicht sogar die Fähigkeit, Leben zu nehmen“, und fragte, ob die Branche „ausreichende Kontrollmittel benötige, bevor es zu spät ist“, während er das Tempo der Technologie als „faszinierend und zugleich zutiefst besorgniserregend“ bezeichnete
Wer nahm am Gipfeltreffen im Dumfries House teil?
Zu den Teilnehmern gehörten Nvidia-CEO Jensen Huang, DeepMind-Mitbegründer Demis Hassabis, OpenAI-CFO Sarah Friar, Anthropic Global Affairs-Chef Tino Cuéllar, die britische KI-Ministerin Kanishka Narayan und Vatikan-KI-Berater Paolo Benanti sowie etwa 30 von der Ditchley Foundation organisierte Personen.
Haben die KI-Unternehmen neuen Sicherheitsregeln zugestimmt?
Nein. Die Führungskräfte haben sich öffentlich zu irgendwelchen Änderungen bekannt, obwohl Hassabis einen "vernünftigen Mittelweg" forderte und Friar sagte, kein einzelnes Unternehmen und keine Regierung könne die Sicherheit allein gewährleisten.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast zehn Jahren Erfahrung im Bloggen und der Eventberichterstattung im Kryptobereich. Bei Cryptopolitanschreibt sie für die Nachrichtenseite und berichtet und analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Kryptoregulierung, KI und Zukunftstechnologien. Sie hat an der Arcadia University Betriebswirtschaftslehre studiert.
