Ehemalige OpenAI-Forscher kritisieren die Opposition des Unternehmens gegen den kalifornischen KI-Gesetzentwurf

Zwei ehemalige OpenAI-Forscher, Daniel Kokotajlo und William Saunders, haben ihre Unzufriedenheit mit der Haltung des Unternehmens zum kalifornischen KI-Regulierungsgesetz SB 1047 geäußert. Sie hatten das Unternehmen bereits in diesem Jahr verlassen, da sie Sicherheitsbedenken aufgrund der hohen Rate der KI-Entwicklung äußerten. 

In einem Brief an Politico äußerten sie ihre Ablehnung der Haltung von OpenAI zu diesem Gesetz und sagten, dass diese nicht mit den früheren Appellen des Unternehmens für KI-Regulierung vereinbar sei. Der Brief wirft ein breiteres Problem bezüglich des Managements und der Sicherheit von KI auf. Laut Kokotajlo und Saunders offenbart die Opposition von OpenAI gegen SB 1047 die unverantwortliche Haltung der Organisation gegenüber der Schaffung von KI. 

„Sam Altman, unser ehemaliger Chef, hat wiederholt für KI-Regulierung plädiert,“ schrieben Kokotajlo und Saunders. „Jetzt, wo tatsächliche Regulierung zur Debatte steht, lehnt er sie ab.“

OpenAI verteidigt Position und fordert bundesweite Regulierung

Sie haben hervorgehoben, dass die Mission von Aidos darin besteht, AGI sicher zu entwickeln, aber die Schritte, die das Unternehmen unternimmt, stehen im Widerspruch zu dieser Mission. Die Forscher haben den kalifornischen Gouverneur Gavin Newsom aufgefordert, das Gesetz zu genehmigen, damit bessere Sicherheitsvorkehrungen für KI-Technologien getroffen werden können. 

Als Antwort auf den Brief der ehemaligen Forscher teilte ein OpenAI-Sprecher eine Erklärung mit, in der die Vorwürfe der Falschdarstellung bestritten wurden. Der Sprecher bemerkte auch, dass OpenAI einige der KI-Sicherheitsgesetze im Kongress unterstützt und behauptet, dass diese auf Bundesebene reguliert werden sollten, da sie eine Bedrohung für die nationale Sicherheit darstellen und die Wettbewerbsfähigkeit des Landes auf der Weltbühne beeinflussen.

OpenAI hat sich deutlich für die Notwendigkeit einer angemessenen KI-Regulierung ausgesprochen, möchte die Angelegenheit jedoch auf Bundesebene behandeln. Nach Ansicht des Unternehmens kann nur Bundesgesetzgebung einen wirksameren Ansatz für rechtliche Lösungen für die Gefahren von KI-Technologien an der Grenze des Möglichen und ein einheitliches Rechtsregime im ganzen Land bieten. 

Anthropic nimmt eine andere Position zur kalifornischen KI-Gesetzgebung ein

Auf der anderen Seite hat Anthropic, der Konkurrent von OpenAI, SB 1047 begrüßt, aber einige Änderungen vorgeschlagen. Der CEO des Unternehmens, Dario Amodei, der früher bei OpenAI gearbeitet hat, war in seiner Meinung zum Gesetz moderater. Amodei schrieb einen Brief an Gouverneur Newsom, in dem er erklärte, dass das Gesetz zwar seine Vorzüge hat, die aktuelle Version mit enthaltenen Änderungen jedoch kosteneffektiv und vorteilhaft ist. 

Die Unterstützung des Gesetzes durch Anthropic signalisiert einen unterschiedlichen Ansatz zur KI-Regulierung. Die Unterstützung des Unternehmens zusammen mit den vorgeschlagenen Änderungen unterscheidet sich von dem von OpenAI unterstützten bundesweiten Ansatz. Das Schicksal von SB 1047 wird höchstwahrscheinlich die zukünftigen Debatten auf staatlicher und Bundesebene beeinflussen.