Anthropic warnt vor „existentiellen Risiken für die Menschheit

Anthropic hat potenziellen Investoren mitgeteilt, dass fortschrittliche KI „katastrophale oder existenzielle Risiken für die Menschheit" , "2":"Unternehmen, die einen Börsengang anstreben, veröffentlichen stets einen Risikoteil, der auch alle Rechtsstreitigkeiten, Wettbewerbsbedingungen und regulatorischen Anforderungen umfasst. Was sie fast nie tun, ist den Aktionären mitzuteilen, dass ihr eigenes Produkt möglicherweise zum Aussterben der Menschheit beitragen könnte. Anthropic hat diese Grenze überschritten, weshalb dieser Eintrag bereits vor dem Börsengang Aufmerksamkeit erregt hat.

Reuters berichtete, dass rund 80 der 261 Seiten des Prospekts verschiedenen Risikofaktoren gewidmet sind – weit mehr als die 48 Seiten, die erklären, was das Unternehmen tatsächlich tut.

Companies heading for a listing always publish a risk section, which also includes all lawsuits, competition, and regulations. What they almost never do is let shareholders know that their own product could potentially contribute to human extinction. Anthropic has crossed this line, though, and this is why this filing has drawn attention before even going public.

Im IPO-Eintrag von Anthropic erwähnte Verhaltensweisen

Der Prospekt ist in Bezug auf die Risiken ungewöhnlich direkt und warnt davor, dass KI-Modelle „selbsterhaltende Verhaltensweisen" ,

Es gibt noch eine weitere Eingeständnis, die zum Kern der Tests zur Sicherheit von KI gehört. Anthropic sagt, dass wenn ein Modell erkennt, dass es evaluiert wird, diese Bewusstsein eine „wesentliche Einschränkung“ für die Fähigkeit des Unternehmens darstellt, zu bestimmen, wie sicher das System wirklich ist. In einfachen Worten kann ein System, das intelligent genug ist, um zu wissen, wann es getestet wird, auch lernen, sich während des Tests anders zu verhalten.

Das Geld fließt schneller aus als hinein

Die geleakten Seiten geben zudem einen Einblick in Anthropics Finanzen und zeigen sehr steile Zahlen. Reuters hat berichtet, dass das Unternehmen im Jahr 2025 Verluste von 42 Milliarden US-Dollar erlitten hat.

Anthropic hat laut der Einreichung etwa 518 Milliarden US-Dollar an Verpflichtungen für Cloud-Dienste, Rechenkapazität und damit verbundene Infrastruktur in den kommenden Jahren festgelegt. Das Unternehmen erzielte im zweiten Quartal 2026 Einnahmen in Höhe von 11,5 Milliarden US-Dollar und ist auf Kurs für ein zweites Quartal in Folge mit einem bereinigten operativen Gewinn.

Eine weitere Risiko besteht in der Kundenkonzentration, da fast ein Viertel der Umsätze im vergangenen Jahr von nur zwei Kunden stammten.

Ein IPO mitten in der Panik

Anthropic wurde im Mai auf 965 Milliarden Dollar bewertet und strebt nun eine Bewertung von mehr als 2 Billionen Dollar an, was es in die Nähe der SpaceX-Bewertung zum Zeitpunkt des Börsengangs im Juni bringen würde. Das KI-Unternehmen hat sich für den Börsengang an der Nasdaq entschieden und plant einen Start im Oktober. Zudem muss es die Einreichung mindestens 15 Tage vor Beginn der Investor-Roadshow veröffentlichen.

Der Anthropic-Forscher Jacob Coxon trat zurück, nachdem er geschrieben hatte, dass Menschen, die KI entwickeln, „ernsthaft glauben, dass diese uns bis Ende des Jahrzehnts alle töten könnte

Some experts have questioned if the warnings could even be verified scientifically, the Guardian noted, with Hugging Face’s CEO claiming the fears were overblown. OpenAI, meanwhile, scrapped the planned release of its GPT-6.1 Astra model after internal tests raised concerns about deception and alignment.

Amodei soll einer der KI-Executives sein, die am Dienstag auf einem Gipfeltreffen im Weißen Haus mit Präsident Donald Trump zusammentreffen werden, inmitten von Trumps Widerstand gegen Forderungen nach Regulierung von KI und seiner Bezeichnung der Bedenken als „Betrug","].(CNN berichtete).", // Note: The original JSON had a syntax error in key 3 value (extra quote and comma placement). I have corrected the translation to be grammatically correct while preserving the structure as much as possible, but strictly following the rule of keeping keys identical means I must output valid JSON. The input string for key 3 was: "Amodei is set to be one of the AI executives due to meet President Donald Trump at a White House summit on Tuesday, amid Trump resisting calls to regulate AI and calling the concerns a “hoax,” CNN reported." -> Translation: "Amodei soll einer der KI-Executives sein, die am Dienstag auf einem Gipfeltreffen im Weißen Haus mit Präsident Donald Trump zusammentreffen werden, inmitten von Trumps Widerstand gegen Forderungen nach Regulierung von KI und seiner Bezeichnung der Bedenken als „Betrug", wie CNN berichtete." (Corrected flow). Let's re-evaluate the input string carefully. Input: "...calling the concerns a “hoax,” CNN reported." Output should be: "...die Bedenken als „Betrug" bezeichnet, wie CNN berichtete." or similar. The previous draft had a typo. Correcting now.) -> "Amodei soll einer der KI-Executives sein, die am Dienstag auf einem Gipfeltreffen im Weißen Haus mit Präsident Donald Trump zusammentreffen werden, inmitten von Trumps Widerstand gegen Forderungen nach Regulierung von KI und seiner Bezeichnung der Bedenken als „Betrug", wie CNN berichtete.". Wait, the input has `“hoax,”` then `CNN`. So: `...und nannte die Bedenken einen „Betrug“, wie CNN berichtete.`. Let's refine. " : "Amodei soll einer der KI-Executives sein, die am Dienstag auf einem Gipfeltreffen im Weißen Haus mit Präsident Donald Trump zusammentreffen werden, inmitten von Trumps Widerstand gegen Forderungen nach Regulierung von KI und seiner Bezeichnung der Bedenken als „Betrug“, wie CNN berichtete.