OpenAI plant Nachfolger für GPT-4 angesichts von Bedenken hinsichtlich der Sicherheit  

OpenAI trainiert ein neues KI-System, um GPT-4 abzulösen, während das Unternehmen versucht, einen Reputations-Neustart zu erzielen. Dem Modell wird ein Sicherheits- und Sicherheitsausschuss vorangestellt, der von CEO Sam Altman und drei weiteren Vorstandsmitgliedern geleitet wird. 

Auch lesen: ChatGPT verbreitet weiterhin Falschinformationen, so die EU-Datenschutzbehörde

Das in San Francisco ansässige Unternehmen steht unter Druck, sein Engagement für Sicherheit unter Beweis zu stellen. Kürzlich zurückgetretene Risikoforscher Jan Leike und Gretchen Krueger haben die angebliche schlechte Sicherheitskultur von OpenAI auf X, formerly Twitter, offengelegt.

OpenAI trainiert „Next Frontier Model“

In einem am Dienstag veröffentlichten Blogbeitrag sagte das Unternehmen:

„OpenAI hat kürzlich mit dem Training seines Next-Frontier-Modells begonnen, und wir erwarten, dass die daraus resultierenden Systeme uns auf unserem Weg zur allgemeinen künstlichen Intelligenz (AGI) auf die nächste Stufe der Fähigkeiten bringen.“

OpenAI sagte nicht, wann der Nachfolger von GPT-4 veröffentlicht werden würde oder was er leisten könnte. Das Unternehmen, das auf 80 Milliarden US-Dollar bewertet wird, unternahm mit seinem enorm beliebten KI-Chatbot ChatGPT einen First-Mover-Gambit, als Favoriten wie Google eine Rückendeckung einnahmen, um Reputationsrisiken zu bewerten.

Während OpenAI in dem von Anthropic, Google, Microsoft und anderen eng umkämpften Rennen um generative künstliche Intelligenz an der Spitze liegt, hat das Unternehmen nicht immer ethischen Prüfungen standgehalten.

In einem Beitrag, der seine Kündigung bei OpenAI auf X ankündigte, offenbarte Leike, dass „die Sicherheitskultur und -prozesse in den vergangenen Jahren hinter glänzenden Produkten zurückgestanden haben.“

Krueger schrieb, dass das Unternehmen „mehr tun muss, um grundlegende Dinge wie Entscheidungsfindungsprozesse, Rechenschaftspflicht, Transparenz, Durchsetzung von Richtlinien und die Sorgfalt, mit der wir unsere eigene Technologie einsetzen, zu verbessern.“

Letzte Woche unterstrich eine Task Force der Europäischen Union die Kritik und berichtete, dass ChatGPT, das Flaggschiffprodukt des Unternehmens, seinen Genauigkeitsstandards nicht gerecht werde.

Unternehmen wirbt mit KI-Sicherheit als wichtigem Verkaufsargument

Unterdessen stieß die kürzliche Aktualisierung von OpenAI für sein GPT-4-Modell sofort auf einen hochkarätigen Streit, als die Schauspielerin Scarlett Johansson dem Unternehmen die unbefugte Nutzung ihrer Stimme vorwarf.

Auch lesen: OpenAI streicht ChatGPT-Stimme nach Scarlett-Johansson-Kontroverse

Jetzt nimmt das Unternehmen seine Fast-Track-Führung in die Wäscherei, während es Sicherheit als Verkaufsargument für sein bevorstehendes KI-Programm wirbt. Das Unternehmen möchte auch von Regulierungsbehörden als Entwickler verantwortungsvoller KI wahrgenommen werden. In seinem Blogbeitrag fügte OpenAI hinzu:

„Während wir stolz darauf sind, Modelle zu entwickeln und zu veröffentlichen, die in Bezug auf Fähigkeiten und Sicherheit branchenführend sind, begrüßen wir eine robuste Debatte in diesem wichtigen Moment.“

Der neue Sicherheits- und Sicherheitsausschuss wird von den Direktoren Altman, Bret Taylor (Vorsitzender), Adam D’Angelo und Nicole Seligman geleitet. Auch der Leiter der Vorbereitung, der Leiter der Sicherheitssysteme, der Leiter der Ausrichtungswissenschaft, der Leiter der Sicherheit und der Chefwissenschaftler des Unternehmens werden im Ausschuss sitzen.

OpenAI sagte, der Ausschuss werde in den nächsten drei Monaten „Prozesse und Schutzmaßnahmen bewerten und weiterentwickeln“ und sich an drei weitere Direktoren wenden.

Das Unternehmen hat sein Sicherheitsteam Anfang dieses Monats aufgelöst, nachdem das Teamleiter und OpenAI-Mitbegründer Ilya Sutskever das Unternehmen verlassen hatte.

Bericht von Cryptopolitan von Jeffrey Gogo