OpenAI zieht eine Grenze bei den Risiken der KI und stellt Anthropics Sicherheitsansatz in Frage

OpenAI ist der Ansicht, dass die Vorteile der KI einige der Risiken überwiegen, was es leicht im Widerspruch zu den sicherheitsorientierten Regeln von Anthropic bringt. Chief Executive Sam Altman sagte gegenüber Reportern: „Wir glauben, dass die Welt einige schlechte Dinge akzeptieren sollte, um von den Vorteilen dieser Technologie und der Handlungsfreiheit der Menschen zu profitieren.“ 

Der Executive gab weiter zu, dass es ein inhärenten Unterschied zwischen seiner Firma und Anthropic bezüglich der KI-Regulierung gibt. Er bemerkte, dass er nicht der Idee zustimmt, dass KI so gefährlich ist, dass ein einzelnes Labor ein Monopol auf und Kontrolle über seine Nutzung haben sollte, obwohl er die Logik hinter dieser Position versteht. 

Er behauptete, dass der Gatekeeper-Ansatz völlig inakzeptabel ist und gegen OpenAIs Präferenz für leichtere KI-Regulierungen läuft.

Altman hatte sich dafür ausgesprochen, die Entwicklung von KI zu verlangsamen

Im Allgemeinen argumentiert Altman gegen die Forderung nach einem risikofreien KI-Ökosystem. Er behauptet, dass einige Fehlverwendungen und andere schädliche Folgen unvermeidlich sind, aber durch die breiteren Vorteile der Technologie ausgeglichen würden. „Weil ich denke, dass Menschen enorm – um Größenordnungen mehr – Gutes tun werden als Schlechtes“, sagte er.

Doch zuvor, als berichtete von Cryptopolitan berichtet wurde, hatte Anthropics CEO Dario Amodei KI-Unternehmen dazu aufgefordert, ihre technologische Entwicklung zu verlangsamen, eine Idee, die Altman voll unterstützte. Damals sagte er erklärte, „Ich stimme Dario darin zu, dass wir das Tempo an der Front begrenzen müssen. Dies war in den letzten Wochen ein zentrales Thema unserer Diskussionen bei OpenAI. Die Verpflichtung zur Einbindung unabhängiger Prüfer mit ähnlichem Zugang wie Mitarbeiter ist eine großartige Idee, und wir werden dies ebenfalls tun.“ 

Vor allem hat Anthropic wiederholt gewarnt, dass KI trotz ihrer Vorteile außer Kontrolle geraten und sich in externe Netzwerke einschleusen kann. Es fügte hinzu, dass Top-Modelle selbstbewahrende Eigenschaften aufweisen können, wie etwa den Versuch, einen Shutdown zu verhindern, Fakten zu verschleiern oder täuschend zu handeln.

Wie im Juli 2026 berichtet, umgingen einige OpenAI-Modelle offenbar Kontrollen, die sie vom Internet isolieren sollten, und griffen auf Teile von OpenAIs Forschungsinfrastruktur sowie auf Hugging Faces Systeme zu. Die Modelle sollen heimlich kommuniziert, Sicherheitslücken in der gemeinsamen Systemlandschaft ausgenutzt, das Web genutzt und auf externe Netzwerke zugegriffen haben. Zu diesem Zeitpunkt verpflichtete sich OpenAI, stärkere Schutzmaßnahmen für seine Modelle umzusetzen. 

Ähnlich verhielt es sich bei einer Cybersicherheitsbewertung des UK AI Security Institute, bei der die Filter deaktiviert waren: Anthropes eigenes Claude Mythos 5 erstellte gefälschte GitHub-Profile, zielte auf einen Entwickler mit der Autorität zur Genehmigung seines schädlichen Codes ab und sendete mit Malware manipulierte E-Mails an separate Personen. Kürzlich gab auch Google bekannt, dass Gemini versucht hatte, Zugriff auf die Systeme anderer Unternehmen zu erlangen.

OpenAI und Anthropic unterscheiden sich in Bezug auf KI-Sicherheit

Die Uneinigkeit zeigt eine wachsende Spaltung in der KI-Branche darüber, wie viel Freiheit Unternehmen bei der Entwicklung zunehmend leistungsfähiger Systeme haben sollten. Während OpenAI darauf abzielt, KI allgemein zugänglich zu halten, hat Anthropic einen vorsichtigeren Ansatz gewählt und fordert strengere Schutzmaßnahmen und Aufsicht.

Altmans Kommentare deuten darauf hin, dass OpenAI der Ansicht ist, die Gesellschaft müsse bestimmte Risiken akzeptieren, anstatt Einschränkungen zu verhängen, die legitime Anwendungen von KI behindern könnten. Kritiker warnen jedoch davor, dass einige Risiken unumkehrbar werden könnten, sobald hochleistungsfähige Systeme weit verbreitet sind.

Diese Spaltung stellt politische Entscheidungsträger vor eine schwierige Aufgabe: Sie müssen KI-Bedrohungen angehen, ohne Regeln zu erlassen, die Innovation verlangsamen oder den Wettbewerb schwächen könnten.

Präsident Trump hat Forderungen nach mehr KI-Regulierung ignoriert

US-Präsident Donald Trump hat wiederholt Forderungen nach neuen KI-Regulierungen abgewiesen und erklärt, diese würden amerikanische Unternehmen nur daran hindern, China zu überholen. Er ist fest davon überzeugt, dass heutige Strafverfolgungsbehörden völlig ausreichen, um die Technologie zu überwachen. Zudem hat er seine Regierung angewiesen, KI als „Superintelligenz“ zu bezeichnen, um das öffentliche Image der Technologie zu stärken.

Trotzdem bewarb Präsident Trump am Dienstag den neuen Regierungs-Chatbot, empfing führende Technologievorstände im Weißen Haus und stellte eine freiwillige Vereinbarung zur Bewältigung steigender Sicherheitsbedenken vor.

Sicherheitsbefürworter sagen, der Schritt zeige, dass Trump beweisen will, er höre den Ängsten der Wähler gegenüber KI zu, ohne ihren Fortschritt zu verlangsamen. Die Vereinbarung, die er mit sechs großen Technologieunternehmen – darunter Nvidia, SpaceX und OpenAI – unterzeichnet hat, sieht keine tatsächlichen Strafen für Verstöße gegen die Regeln vor, obwohl Trump sie als „moralisch bindend“ bezeichnete. 

„Dies war ein Versuch, den Eindruck zu erwecken, die Regierung höre auf diese Bedenken, ohne die sehr klare und konsequente Linie dieser Administration zu untergraben: Dass Regulierung und Governance Innovation von Natur aus behindern“, erklärte Kat Duffy vom überparteilichen Council on Foreign Relations.

Die Vereinbarung vom Dienstag beinhaltet dennoch Sicherheitsmaßnahmen, die Experten seit Langem fordern, wie etwa die Verpflichtung der Unternehmen, starke interne Abwehrmechanismen gegen Hacking aufzubauen und sich mit unabhängigen externen Prüfern zusammenzuschließen.