Wurde die Sicherheit bei OpenAI vernachlässigt?

Nachdem Mitgründer Ilya Sutskever das Unternehmen Anfang dieser Woche verlassen hatte, verkündete Jan Leike, ein bekannter Forscher, am Freitagmorgen, dass „die Sicherheitskultur und -prozesse hinter glänzenden Produkten zurückstehen“.

Jan Leike erklärte in einer Reihe von Beiträgen auf der Social-Media-Plattform X, dass er sich dem in San Francisco ansässigen Startup angeschlossen habe, weil er glaube, dass es der beste Ort sei, um KI-Forschung zu betreiben. 

Leike leitete das „Superalignment“-Team von OpenAI zusammen mit einem Mitgründer, der diese Woche ebenfalls ausschied.

Das Superalignment-Team bei OpenAI existiert nicht mehr

Leikes Superalignment-Team wurde im vergangenen Juli bei OpenAI gegründet, um die wichtigsten technischen Herausforderungen bei der Implementierung von Sicherheitsmaßnahmen anzugehen, während das Unternehmen KI entwickelt, die wie ein Mensch rational denken kann. 

Leikes Äußerungen erfolgten, nachdem WIRED Chich in einem Bericht behauptet hatte, OpenAI habe das Superslignment-Team, das mit der Bewältigung langfristiger Risiken im Zusammenhang mit KI beauftragt war, vollständig aufgelöst.

Lesen Sie auch: Openais Chef-Wissenschaftler Ilya Sutskever verabschiedet sich

Sutskever und Leike waren nicht die einzigen Mitarbeiter, die das Unternehmen verließen. Mindestens fünf weitere der sicherheitsbewusstesten Mitarbeiter von OpenAI haben das Unternehmen verlassen oder wurden entlassen, seit der Vorstand im vergangenen November versuchte, CEO Sam Altman abzusetzen – nur um dann mitanzusehen, wie dieser seine Position zurückerlangte.

OpenAI sollte ein Unternehmen werden, bei dem Sicherheit oberste Priorität hat und das AGI-Unternehmen sich auf Sicherheit konzentriert

Leike wies auf das umstrittenste Merkmal der Technologie auf verschiedenen Plattformen hin – das Zukunftsbild von Robotern, die entweder genauso intelligent sind wie Menschen oder zumindest viele Aufgaben genauso gut erledigen können – und schrieb, dass OpenAI sich zu einem Unternehmen wandeln müsse, bei dem Sicherheit an erster Stelle stehe.

Als Reaktion auf Leikes Beiträge bedankte sich Sam Altman, CEO von Open AI, für Leikes Verdienste um das Unternehmen und drückte sein Bedauern über dessen Ausscheiden aus.

Altman erklärte in einem Beitrag auf X, dass Leike Recht habe und er in den kommenden Tagen einen ausführlichen Beitrag zu diesem Thema verfassen werde. Er fügte hinzu:

„Wir haben noch viel zu tun; wir sind fest entschlossen, es zu tun.“ 

Leike hat das Superalignment-Team von OpenAI verlassen, und John Schulman, einer der Mitbegründer des Unternehmens, hat dessen Position übernommen.

Doch dem Team fehlt es an Substanz. Zudem ist Schulman bereits durch seine Vollzeitarbeit zur Gewährleistung der Sicherheit der bestehenden OpenAI-Produkte überlastet. Wie viel mehr bedeutende, zukunftsorientierte Sicherheitsarbeit kann OpenAI überhaupt leisten? Darauf scheint es keine zufriedenstellende Antwort zu geben.

Jan Leike hat ideologische Differenzen mit dem Management

Wie der Name der Organisation, OpenAI, bereits andeutet, war es ursprünglich geplant, die Modelle frei mit der Öffentlichkeit zu teilen. Das Unternehmen gibt nun jedoch an, dass die Bereitstellung solch leistungsstarker Modelle für jedermann schädlich sein könnte, weshalb die Modelle in firmeneigenes Wissen umgewandelt wurden.

Leike erklärte in einem Beitrag, dass er mit der Führung von OpenAI hinsichtlich der Prioritäten, die sie dem Unternehmen seit geraumer Zeit aufzwingt, nicht einverstanden sei, bis sie schließlich einen Wendepunkt erreicht habe.

Ich bin beigetreten, weil ich OpenAI für den weltweit besten Ort für diese Forschung hielt.

Allerdings gab es schon seit Längerem Meinungsverschiedenheiten mit der OpenAI-Führung hinsichtlich der Kernprioritäten des Unternehmens, bis wir schließlich einen Punkt erreichten, an dem es zum Bruch kam.

— Jan Leike (@janleike) 17. Mai 2024

Leikes letzter Arbeitstag im Unternehmen war Donnerstag. Anschließend reichte er seine Kündigung ein und verzichtete dabei auf jegliche Beschönigungen oder ein Zeichen des Vertrauens in die Führung von OpenAI. Auf X postete er: „Ich habe gekündigt.“

Ein Anhänger von Leike kommentierte, er sei froh, dass Leike nicht länger Teil ihrer Gruppe sei. Die Ideologien der Woke-Bewegung stünden im Widerspruch zur Menschlichkeit. Je weniger sie damit übereinstimmen, desto mehr fließe sie in die KI. 

Lesen Sie auch: OpennAI sichert Reddit-Inhalte für ChatGPT-Verbesserung

Der Anhänger sagte, er würde außerdem von allen Beteiligten eine defivon Ausrichtung verlangen. Er bezog sich dabei auf eine Empfehlung, in der Leike andere Mitarbeiter von OpenAI fragte, ob sie seiner Meinung nach den notwendigen Kulturwandel im Unternehmen umsetzen könnten. 

Das weltweit führende KI-Unternehmen scheint seinen Kurs in Bezug auf Sicherheitsmaßnahmen, die von Experten oft betont werden, zu ändern, und der Weggang hochrangiger Sicherheitsexperten aus dem Unternehmen bestätigt dies wahrscheinlich.

Cryptopolitan Berichterstattung von Aamir Sheikh