NYC-Comptroller nutzt Amodeis „Entschleunigungs“-Essay für Forderung nach Anthropic-IPO-Pause

Der Finanzkontrolleur der Stadt New York (NYC), Mark Levine, hat Anthropic in einem Brief an den CEO Dario Amodei gebeten, den geplanten Börsengang vorerst auszusetzen.

Levine möchte, dass das Unternehmen zunächst die Sicherheitsrisiken und andere beispiellose Gefahren adressiert, die von der KI ausgehen, bevor es mit dem Börsengang fortfährt. Er verwies dabei auf einen eigenen Aufsatz von CEO Dario Amodei, in dem dieser die KI-Branche aufforderte, das Tempo zu drosseln.

Der Brief landet, während das Unternehmen eine Bewertung von fast 2 Billionen US-Dollar anstrebt.

„Mit dem Börsengang ungebremst fortzufahren“

Levine schrieb, dass Anthropic nicht gleichzeitig die Welt vor den Gefahren der KI warnen und in die öffentlichen Märkte eilen könne. 

In dem am 14. Oktober veröffentlichten Brief schrieb der Comptroller: „Ich schreibe, um Anthropic dazu zu drängen, den geplanten Börsengang (IPO) bis zur vollständigen und transparenten Beilegung der von ihr selbst angesprochenen Bedenken hinsichtlich der Sicherheit künstlicher Intelligenz (KI), der Governance und des Entwicklungstempos auszusetzen.“

Levine ist kein neutraler Beobachter. Als Comptroller fungiert er als Anlageberater, Verwahrer und Treuhänder für die Pensionsfonds der Stadt New York, die Vermögenswerte in Höhe von mehr als 325 Milliarden US-Dollar verwalten.

Das Büro des Comptrollers gab an, dass seine öffentlichen Pensionsfonds über private Beteiligungen rund 7 Millionen US-Dollar an Exposure gegenüber Anthropic halten.

Obwohl die Beteiligung gering ist, verschafft sie dem Comptroller doch eine Grundlage, Druck auf das Unternehmen auszuüben, bevor es öffentlich handelt.

Levine äußerte Bedenken hinsichtlich der Struktur des Unternehmens. Er wies darauf hin, dass Anthropic eine öffentliche Delaware Public Benefit Corporation mit einem Long-Term Benefit Trust ist. Berichten zufolge könnten Gründer und Treuhänder laut Levine eine konzentrierte Kontrolle erhalten. 

Ein solcher Spalt zwischen dieser Kontrolle und der Rechenschaftspflicht gegenüber den Aktionären sei angesichts der Risiken, die Anthropic bereits offengelegt hat, nur schwer akzeptabel, argumentierte er.

Was Amodeis Essay tatsächlich behauptete

Levines Brief stützt sich auf den Amodei-Essay betitelt „Wir müssen das Tempo an der Front dämpfen“, veröffentlicht am 12. September.

Amodei schrieb: „Wir müssen das Tempo, mit dem wir die Fähigkeiten von KI-Modellen verbessern, verlangsamen.“ Er sagte, dass rekursive Selbstverbesserung und ein sicherheitsrelevanter Vorfall branchenübergreifend ihn davon überzeugt hätten, dass das Feld mehr Vorsicht braucht, nicht nur mehr Ausgaben für Sicherheit.

In diesem Essay wurde ein Dreischritt-Plan vorgeschlagen, wobei der erste Schritt die Einbettung externer Prüfer mit mitarbeiterähnlichem Zugang zur Überprüfung der Sicherheitspraktiken vorsieht. Anthropic sagt, dass es sich bereits eigenständig zu diesem Schritt verpflichtet hat.

Der zweite Schritt fordert Koordinierung zwischen KI-Unternehmen in demokratischen Ländern; der dritte drängt auf globale Koordinierung, einschließlich mit autoritären Regierungen.

Laut Levin steht der Börsengang der Arbeit im Weg, die Amodei als dringend bezeichnet.

Als Amodeis Essay veröffentlicht wurde, fand er Unterstützung in der gesamten Branche, wobei Sam Altman von OpenAI und Elon Musk von xAI den Vorschlägen zustimmten.

Ein IPO im Wert von 2 Billionen Dollar, basierend auf einem Wachstum von 45%

Bei einem privaten Treffen vor dem Börsengang in San Francisco am Mittwoch, den 14. Oktober, teilte Anthropic seinen Investoren mit, dass sein drittes Quartal Umsatz erreichte rund 16.8 Milliarden Dollar, was einer Steigerung von 45 % gegenüber dem vorherigen Quartal entspricht, und dass es einen bereinigten Gewinn erzielt hat.

Im ersten Quartal dieses Jahres verzeichnete Anthropic Einnahmen in Höhe von 4,7 Milliarden US-Dollar, die im zweiten Quartal deutlich auf rund 11,6 Milliarden US-Dollar anstiegen. Dennoch verbuchte das Unternehmen über diesen Zeitraum hinweg einen operativen Verlust von mehr als 8 Milliarden US-Dollar.

Diesmal teilte das Unternehmen seinen Investoren mit, dass es zum Ende des dritten Quartals cashflow-positiv war – eine sehr seltene Aussage in einer Branche, die zuvor erhebliche Geldmengen verschlungen hat.

Anthropic plant derzeit Infrastruktur- und Rechenkapazitäten für die nächsten zehn Jahre in einem Umfang von mehr als 518 Milliarden US-Dollar.

Diese Bilanz bildet die bullische These für einen Börsengang, der den Wert von 2 Billionen US-Dollar übertreffen und den Rivalen OpenAI, der einen Börsengang Anfang 2027 anstrebt, schlagen könnte. Anthropic hat am 1. Juni seinen Entwurf der S-1-Registrierung vertraulich bei der SEC eingereicht.

Governance und das Abkommen mit dem Weißen Haus

Levine wies auch das jüngste Branchen-Regierungsabkommen als zu dünn zurück. Anthropic und fünf weitere Unternehmen unterzeichneten ein vom Brief als moralisch bindend bezeichnetes Abkommen mit dem Weißen Haus, das Levine als „nicht ausreichend, um dem aktuellen Moment gerecht zu werden“ bezeichnete.

Einige Bedenken des Comptrollers werden durch Anthropics eigene Offenlegungen noch verstärkt. Das Unternehmen warnte in seinem Entwurf der S-1, dass fortschrittliche KI „katastrophale oder existenzielle Risiken für die Menschheit,” darstellen könnte, wobei die Risikofaktoren rund 80 Seiten umfassen – fast doppelt so lang wie der Abschnitt zur Beschreibung des Geschäfts.

Um die Risiken weiter zu verdeutlichen, auf die Levine hinweist, erwähnte er, dass Amodeis Essay nach dem Rücktritt von Jacob Coxon veröffentlicht wurde, der zuvor Forscher bei dem Unternehmen war und seinen Posten am 9. September niederlegte. 

Coxon nannte existenzielle Bedenken als Grund für seinen Austritt aus dem Unternehmen, da er sagte, dass Insider glauben, dass die KI angesichts des Entwicklungstempos die Menschheit bis Ende des Jahrzehnts auslöschen könnte.

Eine Erklärung des Leiters für Alignment-Wissenschaft des Unternehmens, Evan Hubinger, stuft die Wahrscheinlichkeit ein, dass KI innerhalb eines Jahrzehnts alle Menschen tötet, mit über 10 % ein.

Das genaue Datum des Börsengangs wurde nicht bekannt gegeben; Spekulationen zufolge könnte es jedoch erst nach den US-Mittelwahlen im November sein, obwohl das Unternehmen weiterhin vor OpenAI an die Börse gehen soll.