OpenAI skaliert Sicherheit, um geistiges Eigentum vor chinesischer Spionage zu schützen

OpenAI hat seine Sicherheitsmaßnahmen überarbeitet, um sich vor ausländischen Bedrohungen zu wappnen. Das weltweit für Produkte wie ChatGPT bekannte KI-Unternehmen mit einem Wert von 300 Milliarden $ hat eine umfassende Sicherheitsüberholung eingeführt, die strengere Zugriffskontrollen, verstärkte Mitarbeiterüberprüfungen und physische Schutzmaßnahmen umfasst.

Obwohl das Unternehmen die Behauptung dementiert hat, dass seine Maßnahmen als Reaktion auf den Wettbewerb erfolgen, hat OpenAI seine Sicherheitsvorkehrungen nach einem Vorfall im Januar im Zusammenhang mit dem chinesischen Startup DeepSeek verschärft.

OpenAI überholt Sicherheit

OpenAI hat in den letzten Monaten seine internen Sicherheitsmaßnahmen drastisch erhöht, um sein geistiges Eigentum vor ausländischer Spionage, insbesondere aus China, zu schützen. Das Unternehmen begann im letzten Jahr mit der Implementierung strengerer Protokolle, aber diese Bemühungen gewannen nach einem Rollout von DeepSeek im Januar neue Dringlichkeit.

OpenAI vermutet, dass das rivalisierende Unternehmen „Distillation“ verwendet hat, um ein konkurrierendes Produkt zu entwickeln und zu veröffentlichen. Distillation ist eine Technik, bei der ein neues Modell trainiert wird, um das Verhalten eines anderen nachzuahmen.

„Die Episode hat OpenAI dazu gebracht, viel rigoroser zu sein“, sagte eine Quelle, die dem Sicherheitsteam nahesteht. Seitdem hat das Unternehmen seine Cybersicherheitsoperationen aggressiv ausgebaut und die Kontrolle über den Zugang zu sensiblen Forschungsdaten, Modelldaten und Infrastruktur verschärft.

Bisher hat DeepSeek nicht auf die Vorwürfe reagiert.

Der DeepSeek-Vorfall löste auch eine weit verbreitete interne Verschärfung bei OpenAI aus. Neue Richtlinien, die intern als „Information Tenting“ bekannt sind, werden nun verwendet, um zu bestimmen, wie auf sensible Daten zugegriffen und diese geteilt werden.

Nur ein kleiner Kreis von Mitarbeitern kann auf Top-Forschungsprojekte zugreifen, und diejenigen, die an bestimmten Entwicklungen beteiligt sind, müssen bestätigen, dass andere, mit denen sie interagieren, ebenfalls Teil desselben „Zelts“ sind.

Dieser vorsichtige Ansatz wurde während der Entwicklung von OpenAIs nächster Generation von Modellen implementiert, die intern als „Strawberry“ bezeichnet werden. Mitarbeitern wurde untersagt, über das Projekt in offenen Bürobereichen zu sprechen, es sei denn, sie waren sicher, dass ihre Kollegen offiziell autorisiert waren, daran teilzunehmen.

Diese Geheimhaltung hat zu einigen internen Reibungen geführt, wobei ein Mitarbeiter dies als „sehr eng“ beschrieb und sagte: „Man hatte entweder alles oder nichts.“

Auf Systemebene speichert OpenAI heute einen Großteil seiner proprietären Technologie in isolierten, offline Umgebungen. Diese luftgetrennte Infrastruktur trennt kritische Systeme von breiteren Netzwerken und dem öffentlichen Internet und reduziert so das Risiko einer Remote-Infiltration.

Auch die physische Sicherheit wurde upgraded, wobei für bestimmte Räume im San-Francisco-Büro des Unternehmens der biometrische Fingerabdruckzugang erforderlich ist.

Um das Auslaufen der Schlüsselparameter, die bestimmen, wie OpenAI-Modelle auf Benutzer-Prompts reagieren, weiter zu verhindern, hat das Unternehmen eine strenge „Deny-by-Default-Egress-Richtlinie“ durchgesetzt. Das bedeutet, dass Systeme vom Internet getrennt sind, es sei denn, sie sind speziell genehmigt.

KI-Führung wird zum Schlachtfeld zwischen USA und China

Es herrscht ein unermüdlicher Wettbewerb zwischen den USA und China um die Führung in aufkommenden Technologien, insbesondere künstlicher Intelligenz.

Washington hat eine Reihe von Exportkontrollen verhängt, die verhindern sollen, dass Peking fortschrittliche Halbleiter und verwandte Technologien erwirbt. Gleichzeitig haben US-Geheimdienste gewarnt, dass ausländische Akteure ihre Bemühungen zur Diebstahl sensibler Daten von amerikanischen Technologieunternehmen verstärkt haben.

Die Eskalation der Spionagebedrohungen hat mehrere große Silicon-Valley-Unternehmen dazu gebracht, strengere Screening-Verfahren für Neueinstellungen zu übernehmen, wobei OpenAI keine Ausnahme bildet. KI- und Technologieunternehmen begannen seit 2023, Risiken durch Insider-Bedrohungen ernster zu bewerten.

Im Oktober letzten Jahres stellte OpenAI Dane Stuckey als neuen Chief Information Security Officer ein. Stuckey, der zuvor die gleiche Rolle bei Palantir innehatte, bringt einen auf nationale Sicherheit ausgerichteten Ansatz in die Verteidigungsstrategie der Organisation ein.

Stuckey arbeitet eng mit Matt Knight, OpenAIs Vizepräsident für Sicherheitsprodukte, zusammen, der derzeit die Bemühungen anführt, die eigenen Large-Language-Modelle des Unternehmens als Werkzeuge zur Abwehr von Cyberbedrohungen einzusetzen.

Darüber hinaus hat OpenAI im letzten Jahr den pensionierten US-Armee-General Paul Nakasone in seinen Vorstand aufgenommen. Nakasone war der ehemalige Leiter des US Cyber Command und der National Security Agency (NSA). Er bringt ein hohes Verständnis für Cybersicherheitsbedrohungen und Verteidigungsstrategien in das Führungsteam von OpenAI ein.

Trotz der Ernsthaftigkeit dieser Änderungen hat OpenAI erklärt, dass die Sicherheitsüberholung nicht als direkte Reaktion auf einen einzelnen Vorfall erfolgt.

Ein Sprecher des Unternehmens sagte der Financial Times, dass die Upgrades Teil der Investitionen des Unternehmens in Datenschutz und Sicherheit sind, während es darauf abzielt, die Branche anzuführen.

Der erhöhte Fokus auf ausländische Spionage, insbesondere aus China, hat Bedenken hinsichtlich der Anheizung xenophober Untertöne in der Branche aufgeworfen. Mehrere Insider und Beobachter haben Bedenken geäußert, dass die weitreichenden Sicherheitsrichtlinien versehentlich Mitarbeiter asiatischer Abstammung entfremden oder zu einer übermäßigen Überprüfung aufgrund der Nationalität statt tatsächlicher Bedrohungsindikatoren führen könnten.