Vereinigtes Königreich drängt auf globales Konsens zur Kennzeichnung von KI’s „katastrophalem Schaden“ auf dem AI Safety Summit

In einer bahnbrechenden Bewegung führt der britische Premierminister Rishi Sunak eine Initiative an, künstliche Intelligenz als fähig zur „katastrophalen Schädigung“ zu klassifizieren, auf dem vom Vereinigten Königreich ausgerichteten AI Safety Summit, der nächsten Monat im Bletchley Park stattfinden wird. Der Gipfel zielt darauf ab, eine einheitliche globale Haltung zu den Risiken einzunehmen, die von der sich schnell entwickelnden KI-Technologie ausgehen. Der Entwurf des Kommuniqué, der den Teilnehmern zugesandt und von Bloomberg erhalten wurde, skizziert spezifische Bedenken hinsichtlich der Auswirkungen von KI auf Cybersicherheit und Biotechnologie. Während die internationale Gemeinschaft mit den transformativen Möglichkeiten, die KI bietet, ringt, sucht Sunak, das Vereinigte Königreich als Führer bei der Gestaltung regulatorischer Ansätze und der Etablierung von Branchen „Guardrails“ zu positionieren.

Bedenken und Schutzmaßnahmen

Im Mittelpunkt der Bemühungen des Vereinigten Königreichs steht die Anerkennung des Potenzials für „erhebliche, sogar katastrophale Schäden“, die von den gefährlichsten Fähigkeiten von KI-Modellen ausgehen. Das am 16. Oktober datierte Entwurfs-Kommunique unterstreicht die Notwendigkeit einer gemeinsamen internationalen Position zu den spezifischen Sicherheitsrisiken, die sowohl mit allgemeinen als auch mit spezialisierten KI-Modellen verbunden sind. Vertreter aus 28 Nationen und einer vielfältigen Gruppe von Interessenträgern werden bis zum 25. Oktober über die Finalisierung des Kommunique beraten.

Das Dokument hebt die Dualität der KI hervor und erkennt ihre transformativen Möglichkeiten an, insbesondere im öffentlichen Dienst in Bereichen wie Gesundheit, Bildung, Wissenschaft und saubere Energie. Eine mit der Materie vertraute Person erklärt, dass dieser Aspekt während des Gipfels eine prominente Rolle spielen wird und das positive Potenzial der KI für den gesellschaftlichen Fortschritt in den Fokus rückt.

Der Entwurf betont jedoch, dass die Risiken, insbesondere an der „Frontier“ der KI-Entwicklung, klare Bewertungskennzahlen, Sicherheitstest-Tools und die Stärkung der Fähigkeiten des öffentlichen Sektors erfordern. In Anerkennung der Notwendigkeit eines ausgewogenen Ansatzes zielt der Gipfel darauf ab, sowohl die Versprechen als auch die Herausforderungen der KI anzugehen und sicherzustellen, dass Fortschritte verantwortungsvoll genutzt werden, um der Menschheit zu nutzen.

Es wird erwartet, dass globale Führungspersönlichkeiten den Ruf nach mehr Transparenz von an der KI-Entwicklung beteiligten Unternehmen unterstützen. Der Entwurf schlägt die Schaffung klarer Bewertungskennzahlen, Sicherheitstest-Tools sowie die Entwicklung relevanter Fähigkeiten im öffentlichen Sektor und wissenschaftlicher Forschung vor. Das Dokument unterstreicht, dass Sicherheitsrisiken nicht nur von allgemeinen KI-Modellen, sondern auch von spezifischen spezialisierten KI-Systemen ausgehen, die gefährliche Fähigkeiten aufweisen könnten.

Globale Koordination und Verantwortung bei KI-Sicherheitsmaßnahmen

Während das Vereinigte Königreich die Führung übernimmt, zeigen der Entwurf und andere verteilte Dokumente, dass die Europäische Kommission für einen internationalen Kooperationsprozess zur Sicherheit von Frontier-KI wirbt. Der europäische Block strebt einen auf seine eigene KI-Gesetzgebung abgestimmten Ansatz an, der sich auf potenziellen Missbrauch bei Cyberangriffen und das Risiko konzentriert, dass fortschrittliche Systeme die Kontrolle verlieren.

Die Dokumente unterstreichen die Verantwortung der Entwickler, die an leistungsstarken und potenziell gefährlichen KI-Fähigkeiten arbeiten. Es wird großer Wert darauf gelegt, die Sicherheit dieser Fähigkeiten zu gewährleisten, wobei „relevante Akteure“ aufgefordert werden, kontextangemessene Transparenz und Rechenschaftspflicht bei Plänen zur Messung, Überwachung und Minderung potenzieller Gefahren zu bieten. Das Vereinigte Königreich plant, die Dynamik mit Follow-up-Treffen alle sechs Monate aufrechtzuerhalten, die sich der Verfolgung von Fortschritten bei der Bewältigung der Chancen und Risiken im Zusammenhang mit KI widmen.

Das Entwurfs-Kommunique betont die Notwendigkeit, dass KI so gestaltet, entwickelt, eingesetzt und genutzt wird, dass das „gemeinsame Wohl“ priorisiert wird und sich an Prinzipien der Menschzentriertheit, Sicherheit, Vertrauenswürdigkeit und Verantwortung orientiert. Während die internationale Gemeinschaft im Bletchley Park zusammenkommt, beobachtet die Welt, ob ein einheitlicher Standpunkt zur KI-Sicherheit entstehen wird, der den Weg für eine sichere und verantwortungsvolle KI-Zukunft ebnet.