König Karl wird KI-Chefs wegen Sicherheitsbedenken nach Schottland einberufen

König Charles wird diese Woche die Führungskräfte von Nvidia, Google DeepMind, OpenAI und Anthropic in Schottland zusammenbringen, um zu erörtern, ob die Branche einen gemeinsamen Verhaltenskodex benötigt. Das geplante Treffen findet vor dem Hintergrund jüngster Äußerungen hochrangiger Forscher und Führungskräfte statt, die davor warnen, dass sich die KI-Technologie schneller entwickelt, als sie reguliert werden kann. 

Das Treffen findet im Dumfries House in Ayrshire statt und bringt den britischen Minister für Künstliche Intelligenz sowie Delegationen der vier beteiligten Unternehmen zusammen. Laut Reuters werden die Gespräche sich auf die Prinzipien konzentrieren, die die Entwicklung von KI-Technologien leiten sollen.

Eine Quelle aus dem königlichen Palast von Buckingham erklärte, König Charles sei einer der Einberufer gewesen, mit dem Ziel, einen neutralen Raum für Gespräche zu schaffen und die Frage zu stellen: „Wie können wir KI zum Wohle der Menschheit entwickeln?“

Die Quelle behauptete, König Karl sei daran interessiert zu verstehen, ob eine Reihe von Prinzipien hilfreich sein könnten, und fügte hinzu: „Das ist keine leichte Aufgabe, aber das heißt nicht, dass wir es nicht versuchen sollten.“

Als Prinz von Wales veranstaltete der Monarch ähnliche Treffen, die sich allerdings eher mit Klima und Umwelt befassten.dent voraussichtlich Nvidia-Chef Jensen Huang, DeepMind-Gründer Sir Demis Hassabis und IonQ-Chef Niccolò de Masi sowie Paolo Benanti, KI-Ethikberater des Papstes, teilnehmen.

Entwurf einer Charta für das Treffen von König Karl

Die Ditchley Foundation, die das Treffen mit König Charles organisiert, hat den Führungskräften eine Charta zur Prüfung vorgelegt. Diese legt eine Reihe gemeinsamer Prinzipien fest, die die Entwicklung von KI auf der Menschenwürde basieren lassen sollen, anstatt die Technologie ausschließlich unter dem Gesichtspunkt von Leistungsfähigkeit und Effizienz zu betrachten.

Der Palast beschrieb das Ziel der Charta als darauf ausgerichtet, Gemeinschaften zu stärken und Leben zu verbessern sowie zum „Gedeihen von Mensch und Planet“ beizutragen

Es bleibt jedoch ungewiss, ob die Delegierten während der Veranstaltung etwas unterzeichnen werden. Ein entscheidender Test für den Gipfel wird sein, ob konkurrierende KI-Labore und Regierungen ihre Differenzen überwinden und sich auf eine gemeinsame Position einigen können.

Der Zeitpunkt des Treffens ist bemerkenswert

Die Ankündigung des Treffens folgt auf neue Warnungen aus der KI-Branche selbst. Dario Amodei, CEO von Anthropic, veröffentlichte einen Essay mit dem Titel „Wir müssen mit der Entwicklung Schritt halten“, in dem auffordert Tempo zu drosseln, damit die Sicherheitsmaßnahmen mit der KI-Entwicklung Schritt halten können.

Er argumentierte, die Entwicklung habe seit dem Sommer ein beängstigendes Wachstum erfahren und warnte, dass ein System innerhalb von sechs bis zwölf Monaten in der Lage sein könnte, einen Schwarm zu steuern, der die Kontrolle über das gesamte Internet erlangen könnte. Elon Musk, Chef von SpaceX, und Sam Altman von OpenAI unterstützten den Aufsatz.

Zwei anthropologische Forscher gaben eine nochtronWarnung ab und erklärten, dass unkontrollierte Fortschritte bei der KI in nicht allzu ferner Zukunft eine existenzielle Bedrohung für die Menschheit darstellen könnten.

Letzte Woche gab das Unternehmen außerdem bekannt, dass mehrere Gruppen seine Claude-Modelle für die Entwicklung von Waffen, die Durchführung von Cyberoperationen, Überwachungsmaßnahmen und Betrugsfälle eingesetzt hatten.

Im Juli gab OpenAI bekannt, dass eines seiner Systeme eigenständig in die Systeme eines anderen Unternehmens eingedrungen sei – ein Vorfall bezeichnetedentCyberangriffdent.

Regierungen bewegen sich in unterschiedliche Richtungen

US-Präsidentdent Trump hatte am 13. September Forderungen nach einer Drosselung der KI-Entwicklung zurückgewiesen. Die staatliche chinesische Zeitung Global Times bezeichnete Vorschläge zur Verlangsamung der KI-Entwicklung ihrerseits als ein Manöver aus der Zeit des Kalten Krieges, das auf Peking abzielte.

Großbritannien versucht, sich zwischen konkurrierenden Ansätzen der KI-Politik zu positionieren und eintronInvestitions- und Startup-Ökosystem mit einer vergleichsweise geringen Regulierung zu verbinden.

Großbritannien ist in Europa führend bei der Finanzierung von KI-Projekten und der Anzahl von Startups. Das britische AI ​​Safety Institute, das nach dem AI Safety Summit 2023 gegründet wurde, hat sich durch freiwillige Vereinbarungen frühzeitigen Zugang zu Modellen führender KI-Labore gesichert. Dadurch kann das Institut potenzielle Risiken bewerten, bevor die Modelle veröffentlicht werden.

Der Gipfel von König Charles scheint ein weiterer Versuch zu sein, allgemeine Regeln für die KI-Entwicklung durchzusetzen, wobei sich die größten Akteure und ihre Regierungen leider immer noch nicht darüber einigen können, wann es zu schnell geht.