Sam Altman tritt aus OpenAIs Sicherheitskommission zurück, während die scrutiny zunimmt

OpenAIs CEO, Sam Altman, ist von dem internen Sicherheits- und Sicherheitsausschuss des Unternehmens zurückgetreten, einer Gruppe, die im Mai eingerichtet wurde, um kritische Sicherheitsentscheidungen zu überwachen. Altmans Abgang erfolgt zu einer Zeit, in der US-Gesetzgeber und ehemalige Mitarbeiter von OpenAI Bedenken hinsichtlich der Sicherheit und rechtlichen Konformität des Unternehmens geäußert haben.

Der Sicherheits- und Sicherheitsausschuss wird nun als separner Ausschuss auf Vorstandsebene arbeiten, der Sicherheits- und Sicherheitsfragen überwacht. Diese Verschiebung hat Zico Kolter, einen Professor der Carnegie Mellon University, zu ihrem Vorsitzenden ernannt, zusammen mit Quora-CEO Adam D’Angelo, dem pensionierten US-Armee-General Paul Nakasone und der ehemaligen Sony-Executive Nicole Seligman. Alle von ihnen sind aktuelle Mitglieder des OpenAI-Vorstands. Die Gruppe wird weiterhin die Befugnis haben, die Veröffentlichung von KI-Modellen zurückzuhalten, bis Sicherheitsfragen geklärt sind. 

Kritiker hinterfragen OpenAIs Prioritäten, während Schlüsselpersonal das Unternehmen verlässt

In einem Blogbeitrag nach Altmans Abgang betonte OpenAI erneut seinen Fokus auf Sicherheit und stellte fest, dass der Ausschuss die Sicherheit des neuesten Modells, o1, zuvor genehmigt hatte. Die Gruppe wird regelmäßig weitere Informationen von den Sicherheits- und Sicherheitspersonal des Unternehmens erhalten, um die Mitglieder über zukünftige Veröffentlichungen von KI-Modellen auf dem Laufenden zu halten. Es wurde auch erklärt, dass beabsichtigt ist, die Sicherheitsmaßnahmen durch die Einführung technischer Überprüfungen und klar umrissener Ziele für Modellveröffentlichungen zu verbessern.

Dies geschieht vor dem Hintergrund von Kritik, insbesondere von fünf US-Senatoren die Besorgnis über die Sicherheitsmaßnahmen des Unternehmens im Sommer äußerten. Kritiker haben auch festgestellt, dass mehr als die Hälfte des Personals, das mit den langfristigen Folgen von KI befasst ist, das Unternehmen verlassen hat. Einige sagten, dass Altman mehr an dem geschäftlichen Aspekt von KI interessiert sei als an der Regulierung der Technologie.

OpenAIs Ausgaben sind gestiegen. Im ersten Halbjahr 2024 gab das Unternehmen 800.000 US-Dollar für Lobbying auf Bundesebene aus, was ein signifikanter Anstieg im Vergleich zu den 260.000 US-Dollar ist, die für das gesamte Jahr 2023 ausgegeben wurden. Anfang dieses Jahres wurde Altman Mitglied des Artificial Intelligence Safety and Security Board des US-Heimatschutzministeriums. Der Ausschuss soll bei der Nutzung von KI in den kritischen Systemen des Landes beraten. 

Es gibt immer noch Fragen zur Selbstregulierung des KI-Riesen. In einem Meinungsstück für The Economist haben Altman’s ehemalige Vorstandsmitglieder Helen Toner und Tasha McCauley Zweifel an der Fähigkeit des Unternehmens geäußert, sich selbst zu polizieren. Sie behaupteten, dass Gewinnanreize OpenAIs Selbstverwaltung untergraben könnten, was ihrer Meinung nach mit den langfristigen Sicherheitszielen im Widerspruch stehen kann.

OpenAI sucht massive Finanzierung und plant Wechsel zum gewinnorientierten Modell

Berichten zufolge befindet sich OpenAI in Gesprächen, um eine massive neue Finanzierungsrunde zu sichern, die seine Bewertung auf 150 Milliarden US-Dollar treiben könnte. In einem kürzlichen Bericht von Cryptopolitan, plant OpenAI, 6,5 Milliarden US-Dollar von Investoren zu seiner aktuellen Bewertung zu sichern. OpenAI plant Berichten zufolge, sein aktuelles Betriebsmodell bis 2025 in ein traditionelles gewinnorientiertes Modell zu verwandeln.

OpenAIs CEO Sam Altman enthüllte die Änderungen am Personal während eines kürzlichen Treffens, gab jedoch nicht viel darüber preis, was zu erwarten ist. Altman sagte, das Unternehmen sei „zu groß“ für die aktuelle Struktur geworden und bereit, sich vom Non-Profit-Modell zu entfernen.