König Charles will KI-Chefs in Schottland wegen Sicherheitsbedenken zusammenbringen

König Charles wird diese Woche die Führungskräfte von Nvidia, Google DeepMind, OpenAI und Anthropic in Schottland zusammenbringen, um zu diskutieren, ob die Branche einen gemeinsamen Verhaltenskodex benötigt. Das geplante Treffen soll im Anschluss an jüngste Kommentare von führenden Forschern und Führungskräften stattfinden, die davor warnen, dass sich KI-Technologie schneller entwickelt, als sie von jemandem geregelt werden kann. 

Das Treffen soll im Dumfries House in Ayrshire stattfinden und bringt den britischen Minister für KI und Delegationen der vier Unternehmen zusammen. Laut Reuters werden sich die Diskussionen auf die Grundsätze konzentrieren, die die Entwicklung von KI-Technologie leiten sollten.

Eine Quelle aus dem Buckingham Palace erklärte, König Charles sei ein Zusammenführender, der darauf abziele, einen neutralen Raum für Gespräche zu schaffen und die Frage zu stellen: „Wie entwickeln wir KI zum Wohle der Menschheit?“

Die Quelle behauptete, König Charles sei daran interessiert zu verstehen, ob eine Reihe von Grundsätzen helfen würde, und fügte hinzu, dass es „nicht einfach ist, aber das bedeutet nicht, dass wir es nicht versuchen sollten.“

Als Prinz von Wales veranstaltete der Monarch ähnliche Zusammenkünfte, die sich jedoch eher auf Klima und Umwelt konzentrierten. Der Independent berichtete, dass Nvidia-Chef Jensen Huang, DeepMind-Gründer Sir Demis Hassabis und IonQ-Chef Niccolo de Masi erwartet werden, zusammen mit Paolo Benanti, einem KI-Ethikberater des Papstes.

Entwurf der Charta für König Charles’ Treffen

Die Ditchley Foundation, die das Treffen mit König Charles organisiert, hat eine Charta für die Führungskräfte zur Prüfung vorbereitet. Sie legt eine „gemeinsame Reihe von Grundsätzen“ fest, die darauf abzielen, die KI-Entwicklung auf der menschlichen Würde zu verankern, anstatt die Technologie ausschließlich durch die Linse von Leistungsfähigkeit und Effizienz zu betrachten.

Der Palace beschrieb das Ziel der Charta als auf die Stärkung von Gemeinschaften und die Verbesserung des Lebens gerichtet, während er zu „dem Gedeihen sowohl der Menschen als auch des Planeten“ beiträgt.

Es bleibt jedoch ungewiss, ob die Delegierten während der Veranstaltung etwas unterzeichnen werden. Ein wichtiger Test für den Gipfel wird sein, ob konkurrierende KI-Labs und Regierungen ihre Unterschiede überwinden und sich auf eine gemeinsame Position einigen können.

Der Zeitpunkt des Treffens ist bemerkenswert

Die Ankündigung des Treffens folgt einer neuen Runde von Alarmen aus der KI-Branche selbst. Dario Amodei, Chief Executive von Anthropic, veröffentlichte einen Aufsatz mit dem Titel „We Must Pace the Frontier“ und forderte Unternehmen auf, das Tempo zu drosseln, damit die Sicherheitsarbeit mit der KI-Entwicklung Schritt halten kann.

Er argumentierte, dass die Entwicklung seit dem Sommer ein beunruhigendes Wachstumstempo verzeichnet habe, und warnte, dass innerhalb von sechs bis zwölf Monaten ein System in der Lage sein könnte, einen Schwarm zu leiten, der die Kontrolle über das gesamte Internet übernehmen könnte. Elon Musk, der SpaceX betreibt, und OpenAIs Sam Altman haben den Aufsatz beide unterstützt.

Zwei Forscher von Anthropic gaben eine noch stärkere Warnung ab und sagten, dass ungebremste Fortschritte in der KI in nicht allzu ferner Zukunft eine existenzielle Bedrohung für die Menschheit darstellen könnten.

Letzte Woche gab das Unternehmen auch bekannt, dass mehrere Gruppen seine Claude-Modelle bei Bemühungen zur Entwicklung von Waffen, zur Durchführung von Cyberoperationen, zur Durchführung von Überwachung und zur Begehung von Betrug eingesetzt hatten.

Im Juli sagte OpenAI, eines seiner Systeme habe eigenständig in das System eines anderen Unternehmens eingebrochen, ein Ereignis, das es als beispiellosen Cyberzwischenfall bezeichnete.

Regierungen bewegen sich in verschiedene Richtungen

US-Präsident Donald Trump hatte am 13. September Forderungen nach einer Drosselung der KI abgelehnt. Chinas staatliche Global Times hingegen wies Vorschläge zur Verlangsamung als Spiel im Stil des Kalten Krieges zurück, das auf Peking abzielt.

Großbritannien versucht, sich zwischen konkurrierenden Ansätzen zur KI-Politik zu positionieren, indem es eine starke Investitions- und Startup-Ökosystem mit relativ leichter Regulierung kombiniert.

Das Vereinigte Königreich führt in Europa bei KI-Finanzierungen und der Anzahl der Startups, während sein KI-Sicherheitsinstitut, das nach dem KI-Sicherheitsgipfel 2023 gegründet wurde, durch freiwillige Vereinbarungen frühzeitigen Zugang zu Modellen großer KI-Labs erhalten hat. Dies ermöglicht es dem Institut, potenzielle Risiken zu bewerten, bevor die Modelle der Öffentlichkeit zugänglich gemacht werden.

König Charles’ Gipfel scheint ein weiterer Versuch zu sein, allgemeine Regeln für die KI-Entwicklung durchzusetzen, wobei die größten Akteure und ihre Regierungen leider immer noch nicht darüber einig sind, wie schnell zu schnell ist.