Großbritannien verlegt sein Institut für KI-Sicherheit nach San Francisco

Die britische Regierung hat Pläne angekündigt, diesen Sommer die erste Auslandsniederlassung ihres AI Safety Institute in den Vereinigten Staaten zu eröffnen. 

Lesen Sie auch: Die Rolle des KI-Sicherheitsabkommens zwischen Großbritannien und den USA in der technologischen Entwicklung

In einer am Montag veröffentlichten Erklärunggab die britische Ministerin für Wissenschaft und Technologie, Michelle Donelan, bekannt, dass das neue US-Büro in San Francisco angesiedelt sein wird. Die Stadt beherbergt einige der größten KI-Unternehmen, darunter OpenAI, Anthropic und Inflection AI. 

Großbritannien will Partnerschaft mit den USA im Bereich KI-Sicherheit stärken

Das US-amerikanische Büro wird, sobald es im Laufe dieses Jahres seinen Betrieb aufnimmt, ein Team von technischen Mitarbeitern unter der Leitung eines Forschungsdirektors einstellen. Der Londoner Hauptsitz des Instituts verfügt derzeit über ein Team von über 30 technischen Mitarbeitern.

Der Technologieminister sagte, die Erweiterung des Instituts zeige die Führungsrolle Großbritanniens im Bereich der KI und werde eine enge Zusammenarbeit mit der US-Regierung etablieren. 

Dies ist ein entscheidender Moment für Großbritannien, um sowohl die Risiken als auch das Potenzial von KI aus globaler Perspektive zu untersuchen. Dadurch wird unsere Partnerschaft mit den USA gestärkt und der Weg für andere Länder geebnet, von unserem Fachwissen zu profitieren, während wir weiterhin weltweit führend im Bereich der KI-Sicherheit sind.

Michelle Donelan, britische Ministerin für Wissenschaft und Technologie.

Donelan sagt, das Institut habe sich „von Stärke zu Stärke“ entwickelt

Die britische Regierung hat im November 2023 das AI Safety Institute ins Leben gerufen. Ziel sei es, „Überraschungen für Großbritannien und die Menschheit durch rasche und unerwartete Fortschritte im Bereich der KI zu minimieren“ 

Lesen Sie auch: Britische Regierung kündigt die Gründung des Instituts für KI-Sicherheit an

Das Institut konzentriert sich vorrangig auf die Bewertung zukunftsweisender KI-Systeme unter dem Gesichtspunkt der nationalen Sicherheit. Die britische Regierung erklärte, dass sie dadurch in der Lage sein werde, wirksame politische und regulatorische Maßnahmen gegen den Einsatz von KI-Anwendungen in ihrem Hoheitsgebiet zu entwickeln.

Seit der Premierminister und ich das AI Safety Institute gegründet haben, hat es sich in nur etwas mehr als einem Jahr stetig weiterentwickelt und ist immer stärker geworden.

Michelle Donelan, britische Ministerin für Wissenschaft und Technologie.

Das Institut veröffentlicht die Ergebnisse seiner Modelltests

Das britische AI ​​Safety Institute ist Berichten zufolge die erste staatlich geförderte Organisation, die Ergebnisse ihrer Sicherheitstests für KI-Modelle veröffentlicht hat. Das Institut testete fünf öffentlich verfügbare große Sprachmodelle, nannte aber keine Namen. 

Die Sicherheit von KI ist noch ein sehr junges und sich entwickelndes Feld. […] Unser Ziel ist es, die Grenzen dieses Bereichs durch die Entwicklung modernster Bewertungsmethoden weiter zu verschieben, wobei der Schwerpunkt auf Risiken für die nationale Sicherheit liegt.

Ian Hogarth, Vorsitzender des britischen AI Safety Institute.

Laut Bericht haben mehrere Modelle die Cybersicherheitstests bestanden. Sie erwiesen sich jedoch alle als äußerst anfällig für einfache Sicherheitslücken („Jailbreaks“). Einige Modelle führten sogar dann zu schädlichen Ergebnissen, wenn keine bewussten Versuche unternommen wurden, die Schutzmaßnahmen zu umgehen.

Cryptopolitan Berichterstattung von Ibiam Wayas