- Jan Leike, Teamleiter von OpenAIs Superalignment-Team, hat ernsthafte Bedenken hinsichtlich der sich ändernden Sicherheitspraktiken des Unternehmens geäußert.
- Leike verließ das Unternehmen wenige Stunden nach dem Weggang des Mitgründers Ilya Sutskever.
- Das Superalignment-Team soll vom Unternehmen aufgelöst worden sein, wodurch die KI-Modelle einer geringeren Prüfung unterliegen.
Nachdem Mitgründer Ilya Sutskever diese Woche früher das Unternehmen verlassen hatte, kündigte Jan Leike, ein prominenter Forscher, am Freitagmorgen an, dass „Sicherheitskultur und -prozesse bei dem Unternehmen hinter glänzenden Produkten zurückstehen“.
Jan Leike sagte in einer Reihe von Beiträgen auf der Social-Media-Plattform X, er sei dem in San Francisco ansässigen Startup beigetreten, weil er glaubte, dass es der beste Ort für KI-Forschung sei.
Leike leitete das „Superalignment“-Team von OpenAI, dessen Mitgründer ebenfalls diese Woche kündigte.
Das Superalignment-Team bei OpenAI ist nicht mehr intakt
Leikes Superalignment-Team wurde im vergangenen Juli bei OpenAI gegründet, um die wichtigsten technischen Herausforderungen bei der Implementierung von Sicherheitsmaßnahmen anzugehen, während das Unternehmen KI vorantreibt, die wie ein Mensch rationalisieren kann.
Leikes Aussagen kamen nach einem Bericht von WIRED, in dem behauptet wurde, OpenAI habe das Superalignment-Team vollständig aufgelöst, das mit der Bewältigung langfristiger Risiken im Zusammenhang mit KI beauftragt war.
Auch lesen: OpenAIs Chefwissenschaftler Ilya Sutskever verabschiedet sich
Sutskever und Leike waren nicht die einzigen Mitarbeiter, die das Unternehmen verließen. Seit November letzten Jahres, als der Vorstand versuchte, CEO Sam Altman zu entlassen, nur um zuzusehen, wie er seine Karten spielt, um seine Position zurückzugewinnen, haben mindestens fünf weitere der sicherheitsbewusstesten Mitarbeiter bei OpenAI das Unternehmen verlassen oder wurden entlassen.
OpenAI sollte ein AGI-Unternehmen mit Fokus auf Sicherheit werden
Leike verwies auf die umstrittenste Funktion der Technologie auf verschiedenen Plattformen – ein zukünftiges Bild von Robotern, die entweder allgemein so intelligent wie Menschen sind oder zumindest in der Lage, viele Aufgaben genauso gut zu erledigen – und schrieb, dass OpenAI sich in ein AGI-Unternehmen mit Fokus auf Sicherheit verwandeln müsse.
Als Reaktion auf Leikes Beiträge äußerte Sam Altman, CEO von OpenAI, seine Dankbarkeit für Leikes Dienste im Unternehmen und seine Trauer über dessen Abgang.
Altman sagte in einem X-Post , dass Leike recht habe und er in den kommenden Tagen einen ausführlichen Beitrag zu diesem Thema verfassen werde. Er sagte auch, dass
„Wir haben noch viel zu tun; wir sind entschlossen, dies zu tun.“
Leike hat das Superalignment-Team von OpenAI verlassen, und John Schulman, ein Mitgründer des Unternehmens, hat die Leitung übernommen.
Doch an dem Team fehlt es an Substanz. Außerdem ist Schulman bereits durch seine Vollzeitstelle, die die Sicherheit der bestehenden Produkte von OpenAI gewährleistet, überlastet. Wie viel bedeutendere, zukunftsorientierte Sicherheitsarbeit kann OpenAI noch leisten? Auf diese Frage scheint es keine befriedigende Antwort zu geben.
Jan Leike hat ideologische Differenzen mit dem Management
Wie der Name des Unternehmens, OpenAI, bereits andeutet, sollte es ursprünglich seine Modelle frei mit der Öffentlichkeit teilen. Das Unternehmen sagt nun, dass es schädlich sein könnte, solche leistungsstarken Modelle jedem verfügbar zu machen, daher wurden die Modelle in proprietäres Wissen umgewandelt.
Leike sagte in einem Beitrag, er habe mit der Führung von OpenAI über die Prioritäten, die sie seit einiger Zeit im Unternehmen durchsetzen, nicht übereingestimmt, bis sie schließlich einen Wendepunkt erreichten.
Ich bin beigetreten, weil ich dachte, OpenAI wäre der beste Ort der Welt, um diese Forschung durchzuführen.
— Jan Leike (@janleike) Mai 17, 2024
Allerdings bin ich mit der Führung von OpenAI seit geraumer Zeit über die Kernprioritäten des Unternehmens anderer Meinung, bis wir schließlich einen Punkt erreicht haben, an dem nichts mehr ging.
Leikes letzter Tag im Unternehmen war der Donnerstag, wonach er zurücktrat und seinen Rücktritt nicht mit warmen Abschiedsworten oder einem Hauch von Vertrauen in die Führung von OpenAI verschönerte. Auf X postete er: „Ich habe gekündigt.“
Ein Anhänger Leikes sagte in einem Kommentar, er freue sich, dass Leike nicht länger Teil ihres Teams sei. Die „woke“ Ideologien stünden nicht im Einklang mit der Menschheit. Je weniger ausgerichtet sie sei, desto mehr werde sie in die KI eingebracht.
Auch lesen: OpenAI sichert Reddit-Inhalte für die Verbesserung von ChatGPT
Der Anhänger sagte, dass er auch von allen „Alignern“ eine Definition von Ausrichtung (Alignment) verlangen würde. Er bezog sich auf eine Empfehlung, in der Leike andere Mitarbeiter von OpenAI aufforderte, zu glauben, dass sie den kulturellen Wandel, der im Unternehmen notwendig ist, vorantreiben können.
Das weltweit führende KI-Unternehmen scheint seinen Kurs in Bezug auf Sicherheitsmaßnahmen, die von Experten oft betont werden, häufig zu ändern, und der Abgang von Top-Sicherheitsexperten aus dem Unternehmen bestätigt dies wahrscheinlich.
Bericht von Cryptopolitan von Aamir Sheikh
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Aamir Sheikh
Aamir ist Tech-Journalist mit fast sechs Jahren Erfahrung in der Krypto- und Technologiebranche. Er absolvierte sein Studium an der MAJ University mit einem MBA in Finanzen und Marketing. Heute arbeitet er für Cryptopolitan, wo er über die neuesten Entwicklungen in den Kryptowährungsmärkten und Preisprognosen berichtet.
