Hassabis fordert die USA auf, vor Jahresende eine globale KI-Aufsichtsbehörde zu führen

Demis Hassabis, Mitbegründer und CEO von Google DeepMind, möchte, dass die US-Regierung eine neue Aufsichtsbehörde einrichtet, die mit der Überprüfung der leistungsfähigsten KI-Modelle der Welt beauftragt ist. Die Aufsichtsbehörde wird auch die Befugnis haben, die Industrie zu veranlassen, das Tempo zu drosseln, wenn die Gefahr zunimmt.

Er erläuterte dies in seinem Manifest, das am 14. Juli veröffentlicht wurde, und sagte, dass er möchte, dass die Behörde vor Jahresende in Betrieb ist.

Hassabis ist eine der führenden Stimmen im KI-Bereich. Er teilte den Nobelpreis für Chemie 2024 für seine Arbeit zur Proteinfaltung und leitet das Labor hinter Gemini.

In einem Interview, erklärte er, dass die Industrie den Punkt erreicht hat, an dem die KI-Aufsicht systematisch sein, von den Labors selbst finanziert, von technischen Experten besetzt und der US-Regierung Rechenschaftspflichtig sein muss.

Was wird die US-KI-Aufsichtsbehörde tun?

Hassabis modelliert die Behörde nach der FINRA, dem privaten, von der Industrie finanzierten Regulator, der die Wall-Street-Broker unter der Aufsicht der Securities and Exchange Commission kontrolliert.

In seinem Plan würden Frontier-Labs ihre Modelle zunächst freiwillig bis zu 30 Tage vor der Veröffentlichung übergeben, damit die Behörde sie auf gefährliche Cyber-, biologische und „Täuschungs“-Fähigkeiten testen kann.

Er erklärte, dass formale Regeln „schnell folgen könnten“, sobald diese Tests als zuverlässig erwiesen sind, was bedeuten würde, dass ein Modell bestehen müsste, bevor es auf dem US-Markt eingesetzt werden darf.

Die Standards würden für jedes System der Frontier-Klasse gelten, und Hassabis fügte hinzu, dass „unabhängig von ihrem Herkunftsland oder ob sie offen oder geschlossen sind“, die Benchmarks mit dem technologischen Fortschritt aktualisiert werden.

Er möchte auch, dass der Aufsichtsrat mehrheitlich unabhängig ist, besetzt mit Turing-Award-Preisträgern und anderen qualifizierten Forschern, neben Sitzen für Industrie, Regierung und Open-Source-Entwickler. Er erklärte, dass das „Frontier“-Label zu einem Statussymbol werden würde, und fügte hinzu: „Ich denke, das ist ein ziemlich nettes, prestigeträchtiges Asset.“

Warum fordert Hassabis jetzt eine KI-Aufsichtsbehörde?

Hassabis sagt, dass die heutigen KI-gesteuerten Cyberangriffe „Warnschüsse“ sind. Laut ihm könnten innerhalb von 18 Monaten ernsthaftere biologische und nukleare Risiken in Open-Source-Modellen liegen, die keine Regierung zurückziehen kann. Er fügte hinzu, dass die Bedrohung nicht auf offene Systeme beschränkt ist und dass die eigenen zukünftigen proprietären Modelle der Labors dieselben Gefahren mit sich bringen werden.

Er sagte, er wolle, dass die Aufsichtsbehörde in Monaten betriebsbereit ist, und hat in den letzten Wochen die Trump-Regierung, Führungskräfte rivalisierender Labors und europäische Beamte briefet, bevor er öffentlich wurde. „Die Geräusche, die ich gehört habe, sind sehr positiv“, sagte er über die Gespräche im Weißen Haus.

Diese Administration hatte bis letzten Monat einen Ansatz der Nicht-Einmischung bevorzugt, als sie die Modelle Mythos und Fable von Anthropic unter eine Exportkontrollverordnungstellte, die ihren Zugang einschränkte. Die Verordnung wurde später aufgehoben, wobei Anthropic die Modelle mit mehr Kontrollen veröffentlichte.

OpenAI andererseits hat vereinbart, GPT-5.6 auf von der Regierung geprüfte Partner zu beschränken bevor es letzte Woche nach Tests mit dem Handelsministerium öffentlich freigegeben wurde, ein Schritt, der als Versuch gewertet wurde, dasselbe Schicksal wie Anthropic zu vermeiden.

Hassabis sagt, der Vorfall sei „ein wenig ein Weckruf“.

Ein seltener Punkt der Übereinstimmung

Anthropic-CEO Dario Amodei ist ebenfalls der Meinung, dass es eine Agentur geben sollte, die die Befugnis hat, unsichere KI-Modelle einzudämmen, und fordert verbindliche Regeln und eine Agentur nach FAA-Vorbild.

Amodeis Position stimmt mit Hassabis’ überein; jedoch bevorzugt Letzterer die leichtere, von der Industrie geführte FINRA-Struktur.

Hassabis’ Überzeugung, dass die Risiken schnell steigen, ist erwähnenswert. Er hat gesagt, dass AGI, ein System, das die volle Bandbreite menschlicher kognitiver Fähigkeiten entspricht, „wahrscheinlich nur noch wenige kurze Jahre entfernt“ ist, und bei einer Veranstaltung an der Stanford University datierte er die Ankunft auf etwa 2030, „plus oder minus ein Jahr“. In seinem Manifest schrieb er, dass Forscher „einen Weg gefunden haben, Sand denken zu lassen“, und nannte es „wunderbar“.