Ehemalige OpenAI-Forscher kritisieren die Ablehnung des Unternehmens gegen das kalifornische KI-Gesetz

Zwei ehemalige OpenAI-Forscher, Daniel Kokotajlo und William Saunders, haben ihre Unzufriedenheit mit der Haltung des Unternehmens zum kalifornischen KI-Regulierungsgesetz SB 1047 zum Ausdruck gebracht. Sie hatten das Unternehmen Anfang des Jahres verlassen und dabei Sicherheitsbedenken aufgrund der hohen Geschwindigkeit der KI-Entwicklung angeführt. 

In einem Brief an Politico äußerten sie ihre Ablehnung der Position von OpenAI zu diesem Gesetzentwurf und erklärten, dieser sei nicht auf die früheren Forderungen des Unternehmens nach einer Regulierung von KI anwendbar. Der Brief wirft zudem eine grundsätzliche Besorgnis hinsichtlich des Managements und der Sicherheit von KI auf. Laut Kokotajlo und Saunders offenbart die Ablehnung von SB 1047 durch OpenAI die unverantwortliche Haltung der Organisation gegenüber der Entwicklung von KI. 

„Unser ehemaliger Chef, Sam Altman, hat wiederholt eine Regulierung von KI gefordert“, schrieben Kokotajlo und Saunders. „Jetzt, wo konkrete Regulierungen zur Debatte stehen, lehnt er sie ab.“ 

OpenAI verteidigt seine Position und fordert bundesweite Regulierung

Sie betonten, dass Aidos' Ziel die sichere Entwicklung von AGI sei, doch die Maßnahmen des Unternehmens stünden im Widerspruch zu diesem Ziel. Die Forscher appellierten an den kalifornischen Gouverneur Gavin Newsom, den Gesetzentwurf zu unterzeichnen, um bessere Sicherheitsvorkehrungen im Umgang mit KI-Technologie zu ermöglichen. 

Als Reaktion auf den Brief der ehemaligen Forscher teilte ein Vertreter von OpenAI in einer Stellungnahme mit, dass die Vorwürfe der falschen Darstellung zurückgewiesen wurden. Der Sprecher merkte zudem an, dass OpenAI einige der im Kongress eingebrachten Gesetzesentwürfe zur KI-Sicherheit unterstütze und argumentiert, dass diese auf Bundesebene reguliert werden sollten, da sie eine Bedrohung für die nationale Sicherheit darstellten und die Wettbewerbsfähigkeit des Landes auf dem Weltmarkt beeinträchtigten.

OpenAI hat sich wiederholt für eine angemessene KI-Regulierung ausgesprochen, möchte das Thema jedoch auf Bundesebene angehen. Laut dem Unternehmen kann nur eine Bundesgesetzgebung einen effektiveren Ansatz für rechtliche Lösungen im Umgang mit den Gefahren neuer KI-Technologien und ein einheitliches Rechtssystem im ganzen Land gewährleisten. 

Anthropic vertritt eine andere Position zur kalifornischen KI-Gesetzgebung

Anthropic, ein Konkurrent von OpenAI, begrüßte hingegen den Gesetzentwurf SB 1047, schlug aber einige Änderungen vor. Der CEO des Unternehmens, Dario Amodei, der zuvor bei OpenAI tätig war, äußerte sich gemäßigter zu dem Gesetzentwurf. In einem Brief an Gouverneur Newsom erklärte Amodei, dass der Gesetzentwurf zwar seine Vorteile habe, die aktuelle Fassung mit den enthaltenen Änderungen jedoch kosteneffizient und vorteilhaft sei. 

Die Unterstützung des Gesetzentwurfs durch Anthropic signalisiert einen eigenständigen Ansatz in der KI-Governance. Die Zustimmung des Unternehmens sowie die vorgeschlagenen Änderungen unterscheiden sich vom bundesweiten Ansatz, den OpenAI befürwortet hat. Das Schicksal von SB 1047 wird höchstwahrscheinlich die künftigen Debatten auf Landes- und Bundesebene beeinflussen.