Anthropic, OpenAI und Google wägen ein gemeinsames KI-Standards-Gremium ab

Anthropic, OpenAI und Google haben über die Bildung eines kollaborativen Branchen-Standards-Gremiums gesprochen, so ein Bericht von The Information. Dies würde den größten Frontier-Laboren die Möglichkeit geben, die Sicherheitsstandards festzulegen, an denen ihre eigenen Modelle bewertet werden.

Für Unternehmen, die abwägen, ob sie Frontier-Modelle für sensible Aufgaben nutzen sollen oder nicht, würde die Einführung gemeinsamer Standards ihre Sicherheit bei der Adoption erhöhen. Aber derselbe Rahmen könnte auch die größten Akteure stärken. Die OECD hat zuvor gewarnt, dass hohe Fixkosten, mangelnde Rechenressourcen und konzentrierte Infrastruktur Unternehmen bereits den Eintritt in den KI-Markt erschweren. Compliance-Kosten könnten noch eine weitere Hürde darstellen, der sich kleinere Labore stellen müssen.

Die bereits auf dem Tisch liegenden Vorschläge

Am 14. Juli schlug Demis Hassabis, der Leiter von Google DeepMind, eine Initiative für eine US-basierte Frontier-AI-Standards-Body vor, inspiriert von der Financial Industry Regulatory Authority (FINRA).

In seinem Vorschlag würden Frontier-Labore ihre fortschrittlichen Technologien freiwillig zur Bewertung einreichen, mit einer Bewertungsphase von 30 Tagen vor ihrer Veröffentlichung. Die Bewerter würden die Sicherheit der Technologien beurteilen, um sicherzustellen, dass sie keine Risiken wie Cybersicherheit, biologische Bedrohungen oder Manipulation darstellen.

Das Council on Foreign Relations (CFR) berichtete, dass das Weiße Haus die von Hassabis eingeführte Idee bereits prüfte. Laut seinem Vorschlag wäre es nur in einer späteren Phase verpflichtend, den Bewertungsprozess zu bestehen, um Frontier-Technologien in den USA einzusetzen.

In seinem Artikel vom September mit dem Titel „We Must Pace the Frontier“ betrachtet Dario Amodei, CEO von Anthropic, das Problem aus einer anderen Perspektive. Sicherheitsbemühungen müssten etwas mehr Zeit bekommen, um mit den KI-Fähigkeiten aufzuholen, so seine Ansicht. Der Ausweg für Amodei besteht darin, unabhängigen Bewertern wie METR zu erlauben, Frontier-Labore über längere Zeiträume zu besuchen, was den Weg für die Zusammenarbeit zwischen großen KI-Unternehmen aus demokratischen Staaten hinsichtlich Sicherheitsstandards ebnet.

Warum dies nicht der erste Versuch ist

Es ist wichtig anzumerken, dass branchengeführte Sicherheitsorganisationen bereits seit einiger Zeit existieren. Tatsächlich schloss sich das Frontier Model Forum 2023 mit sechs großen KI-Unternehmen zusammen, um im Rahmen des AI Safety Fund von über 10 Millionen USD ein unabhängiges Sicherheitsforschungsprogramm aufzubauen.

Die Agentic AI Foundation wurde im Dezember 2025 als Teil der Linux Foundation gegründet und zielt darauf ab, offene Standards und Infrastruktur für KI-Agenten zu entwickeln. Zu den Projekten, die die Stiftung ausmachen, gehören das Model Context Protocol von Anthropic, das goose von Block und AGENTS.md von OpenAI.

OpenAI kooperierte bei der Schaffung der Appia Foundation, die im Juni 2026 mit 13 Mitgliedern gegründet wurde. Die Stiftung zielt darauf ab, allgemeine Prinzipien der KI-Regulierung in Spezifikationen, Tests und Compliance-Nachweise umzuwandeln, die in der gesamten KI-Lieferkette verwendet werden würden.

Der Drang zur Koordination zeigt sich auch außerhalb von Branchenorganisationen. Wie von Cryptopolitan berichtet, betonte Chris Lehane, Leiter der globalen Angelegenheiten bei OpenAI, dass die USA und China den globalen Rahmen für KI-Sicherheit unterstützen sollten, und verglich diese Initiative mit der internationalen Nuklearkooperation.

Das Moat-Problem, das niemand gelöst hat

Das Kernproblem ist die Unabhängigkeit. Laut der CFR-Analyse kann ein vom Sektor finanzierte Regulierungsbehörde Konflikte erleben, die denen ähneln, die im Fall des Issuer-Pays-Kreditrating-Systems vor der Finanzkrise 2008 auftraten, was eine Reihe unbeantworteter Fragen hinsichtlich des Zugriffs des Regulierungsbehörders auf Frontier-Modelle, der Expertise der Bewerter, der Maßnahmen zur nationalen Sicherheit und der Zuverlässigkeit aktueller Testmethoden aufwirft.

Kapazität ist eine weitere Herausforderung. Eine Projektion von GovAI besagt, dass 14-16 Modelle in den Jahren von 2025 bis 2028 derselben Größenordnung angehören könnten wie der bisher größte Trainingslauf, was bedeutet, dass kontinuierliche Review-Kapazitäten erforderlich sind, anstatt periodische Bewertungen.

Wettbewerb ist ebenfalls wichtig. Die hauptsächlich von den größten Laboren festgelegten Standards können zu Fixkosten werden, die für etablierte Unternehmen im Vergleich zu Startups leichter zu tragen sind. Wenn ein freiwilliger Rahmen in eine verpflichtende Anforderung umgewandelt wird, müssen Mechanismen eingeführt werden, die verhindern, dass die Sicherheits-Compliance als Markteintrittsbarriere fungiert.

Was auch immer geschaffen wird, muss mit Europa korrelieren. Der General-Purpose AI Code of Practice der Europäischen Union, der im Juli 2025 eingeführt wurde, um als freiwilliger Weg zum Nachweis der Compliance mit dem AI Act zu dienen, hat bereits Anthropic, Google, Microsoft und OpenAI als Unterzeichner aufgenommen. Daher müsste jeder neue US- oder branchengeführte Standardisierungsgremium in eine überfüllte Landschaft der Governance eintreten, anstatt eine eigene zu schaffen.