UK bringt sein KI-Sicherheitsinstitut nach San Francisco

Die britische Regierung hat Pläne bekannt gegeben, im Sommer dieses Jahres das erste ausländische Büro ihres AI Safety Institute in den Vereinigten Staaten zu eröffnen. 

Auch lesen: Die Rolle des UK-US-Abkommens zur KI-Sicherheit in der technologischen Entwicklung

In einer am Montag veröffentlichten Erklärung sagte die britische Wissenschafts- und Technologieministerin Michelle Donelan, dass das neue US-Büro in San Francisco angesiedelt sein wird. Die Stadt beherbergt einige der größten KI-Unternehmen, darunter OpenAI, Anthropic und Inflection AI.

UK will Partnerschaft mit den USA zur KI-Sicherheit stärken

Das US-Büro wird darauf abzielen, ein Team technischer Mitarbeiter unter der Leitung eines Research Directors zu rekrutieren, wenn es später in diesem Jahr den Betrieb aufnimmt. Das Londoner Hauptquartier des Instituts hat derzeit ein Team von über 30 technischen Mitarbeitern.

Die Tech-Sekretärin sagte, die Erweiterung des Instituts repräsentiere die britische Führungsrolle in der KI und würde eine enge Zusammenarbeit mit der US-Regierung etablieren. 

Es ist ein entscheidender Moment für die Fähigkeit des UK, sowohl die Risiken als auch das Potenzial der KI aus einer globalen Perspektive zu untersuchen, unsere Partnerschaft mit den USA zu stärken und den Weg für andere Länder zu ebnen, von unserer Expertise zu profitieren, während wir weiterhin in der Welt der KI-Sicherheit führen.

Michelle Donelan, britische Wissenschafts- und Technologieministerin.

Donelan sagt, das Institut sei von „Stärke zu Stärke“ gewachsen

Die britische Regierung führte das AI Safety Institute im November 2023 ein. Sie sagte, das Ziel sei es, „Überraschungen für das Vereinigte Königreich und die Menschheit durch rasche und unerwartete Fortschritte in der KI“ zu minimieren. 

Auch lesen: Britische Regierung kündigt die Einrichtung des AI Safety Institute an

Das Institut konzentriert sich hauptsächlich auf die Bewertung von „Frontier“-KI-Systemen aus der Perspektive der nationalen Sicherheit. Nach diesem Maßstab wird die britische Regierung in der Lage sein, wirksame politische und regulatorische Antworten auf KI-Anwendungen zu entwickeln, die innerhalb ihrer Gerichtsbarkeit eingesetzt werden.

Seit der Premierminister und ich das AI Safety Institute gegründet haben, ist es in etwas mehr als einem Jahr von Stärke zu Stärke gewachsen.

Michelle Donelan, britische Wissenschafts- und Technologieministerin.

Das Institut veröffentlicht Ergebnisse seiner Modelltests

Das britische AI Safety Institute ist Berichten zufolge die erste staatlich unterstützte Organisation, die Ergebnisse aus ihren KI-Modellsicherheitstests veröffentlicht. Das Institut testete fünf öffentlich verfügbare Large Language Models, gibt jedoch keine Namen an. 

KI-Sicherheit ist immer noch ein sehr junges und aufstrebendes Feld. […] Unser Ziel ist es, die Grenzen dieses Feldes weiter voranzutreiben, indem wir modernste Bewertungen entwickeln, mit Schwerpunkt auf Risiken im Zusammenhang mit der nationalen Sicherheit.

Ian Hogarth, Vorsitzender des britischen AI Safety Institute.

Es hieß, mehrere Modelle hätten ihre Cybersicherheits-Herausforderungen bestanden. Sie erwiesen sich jedoch alle als hochgradig anfällig für einfache „Jailbreaks“. Einige Modelle produzierten schädliche Ergebnisse, selbst wenn keine absichtlichen Versuche unternommen wurden, Schutzmaßnahmen zu umgehen.

Bericht von Cryptopolitan von Ibiam Wayas