Hassabis fordert die USA auf, noch vor Jahresende die globale KI-Regulierungsbehörde zu werden
- Demis Hassabis, CEO von Google DeepMind, wünscht sich eine US-amerikanische Aufsichtsbehörde nach dem Vorbild der FINRA, die leistungsstarke KI-Modelle überprüft und deren Entwicklung bei steigenden Risiken stoppt.
- Sein Plan sieht vor, dass Spitzenforschungslabore freiwillig Modelle 30 Tage vor der Veröffentlichung für Cyber-, Bio- und Täuschungstests einreichen.
- Hassabis warnt davor, dass innerhalb von 18 Monaten ernsthafte biologische und nukleare Risiken entstehen könnten.
Demis Hassabis, Mitgründer und CEO von Google DeepMind, fordert die US-Regierung auf, eine neue Aufsichtsbehörde einzurichten, die die leistungsstärksten KI-Modelle der Welt überprüfen soll. Diese Behörde soll auch befugt sein, die Branche zu bremsen, falls die Gefahr zunimmt.
Er führte dies ausführlich in seinem Manifest aus, das am 14. Juli veröffentlicht wurde, und erklärte, er wolle, dass die Institution noch vor Jahresende funktionsfähig sei.
Hassabis zählt zu den führenden Köpfen im Bereich der künstlichen Intelligenz. Er erhielt 2024 den Nobelpreis für Chemie für seine Forschung zur Proteinfaltung und leitet das Labor hinter Gemini.
In einem Interviewsein müssematic, von den Laboren selbst finanziert, mit technischen Experten besetzt und der US-Regierung gegenüber rechenschaftspflichtig sein müsse.
Was wird die US-amerikanische KI-Aufsichtsbehörde unternehmen?
Hassabis orientiert sich bei der Gestaltung der Einrichtung an FINRA, der privaten, von der Industrie finanzierten Aufsichtsbehörde, die unter der Aufsicht der Securities and Exchange Commission die Wall-Street-Broker überwacht.
Nach seinem Plan würden die Spitzenforschungslabore ihre Modelle zunächst freiwillig bis zu 30 Tage vor der Veröffentlichung übergeben, damit die Behörde sie auf gefährliche Cyber-, biologische und „Täuschungs“-Fähigkeiten testen könnte.
Er erklärte, sobald sich diese Tests als zuverlässig erwiesen, könnten formale Regeln „schnell folgen“, was bedeutet, dass ein Modell diese Tests bestehen müsste, bevor es auf dem US-Markt eingesetzt werden könnte.
Die Standards würden für jedes Grenzlandsystem gelten, und Hassabis fügte hinzu, dass dies „unabhängig vom Ursprungsland oder davon, ob es sich um ein offenes oder geschlossenes System handelt“, wobei die Benchmarks mit dem technologischen Fortschritt aktualisiert würden.
Er wünscht sich außerdem einen mehrheitlich unabhängigendent, der mit Turing-Preisträgern und anderen anerkanntendentsowie Vertretern aus Industrie, Regierung und Open-Source-Entwicklern besetzt ist. Er erklärte, das Label „Frontier“ werde zu einem Statussymbol und fügte hinzu: „Ich denke, das ist ein sehr wertvolles Prestigeobjekt.“
Warum fordert Hassabis jetzt eine KI-Überwachungsbehörde?
Hassabis bezeichnet die heutigen KI-gestützten Cyberangriffe als „Warnschüsse“. Seiner Ansicht nach könnten innerhalb von 18 Monaten schwerwiegendere biologische und nukleare Risiken in Open-Source-Modellen verborgen sein, die keine Regierung mehr kontrollieren kann. Er fügte hinzu, dass die Bedrohung nicht auf offene Systeme beschränkt sei und dass auch die zukünftigen proprietären Modelle der Labore dieselben Gefahren bergen würden.
Er sagte, er wolle die Kontrollbehörde innerhalb weniger Monate einsatzbereit haben und habe die vergangenen Wochen damit verbracht, die Trump-Regierung, Leiter konkurrierender Labore und europäische Beamte zu informieren, bevor er an die Öffentlichkeit ging. „Die Signale, die ich vernommen habe, sind sehr positiv“, sagte er über die Gespräche im Weißen Haus.
Die Regierung hatte bis zum letzten Monat eine zurückhaltende Haltung bevorzugt, als sie die Mythos- und Fable-Modelle von Anthropic einer Exportkontrollverordnungund deren Verfügbarkeit einschränkte. Die Verordnung wurde später aufgehoben, und Anthropic veröffentlichte die Modelle unter strengeren Auflagen.
OpenAI hingegen stimmte zu, GPT-5.6 zunächst nur von der Regierung geprüften Partnern zugänglich , bevor es letzte Woche nach Tests mit dem Handelsministerium öffentlich freigegeben wurde. Dieser Schritt wurde als Versuch gewertet, das gleiche Ergebnis wie bei Anthropic zu vermeiden.
Hassabis sagt, derdent sei „ein kleiner Weckruf“
Ein seltener Punkt der Übereinstimmung
Anthropic-CEO Dario Amodei ist ebenfalls der Ansicht, dass es eine Behörde geben sollte, die die Macht hat, unsichere KI-Modelle einzudämmen, und fordert verbindliche Regeln und eine Behörde nach dem Vorbild der FAA.
Amodeis Position stimmt mit der von Hassabis überein; letztere bevorzugt jedoch die schlankere, branchengeführte FINRA-Struktur.
Hassabis' Überzeugung, dass die Herausforderungen rasant zunehmen, ist bemerkenswert. Er sagte, AGI, ein System, das die gesamte Bandbreite menschlicher kognitiver Fähigkeiten abbildet, sei „wahrscheinlich nur noch wenige Jahre entfernt“, und bei einer Veranstaltung in Stanford nannte er das Jahr 2030 als voraussichtlichen Zeitpunkt, „plus/minus ein Jahr“. In seinem Manifest schrieb er, Forscher hätten „einen Weg gefunden, Sand zum Denken zu bringen“, und bezeichnete dies als „wunderbar“
Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.
Häufig gestellte Fragen
Was schlägt Demis Hassabis vor?
Er schlägt die Einrichtung eines US-amerikanischen KI-Standardisierungsgremiums vor, das dem Wall-Street-Regulierungsamt FINRA nachempfunden ist und die weltweit fortschrittlichsten Modelle auf gefährliche Cyber-, biologische und Täuschungsfähigkeiten testen soll. Im Falle zunehmender Bedrohungen könnte das Gremium eine Branchenverlangsamung koordinieren.
Wann will Hassabis die KI-Überwachungseinrichtung einsatzbereit haben?
Er sagte gegenüber Axios, er wolle die Einrichtung innerhalb weniger Monate, idealerweise noch vor Ende 2026, funktionsfähig haben, und erklärte, seine Gespräche mit der Trump-Administration hätten positive Signale ergeben.
Stimmen andere KI-Labore Hassabis zu?
Die führenden Laborleiter sind sich einig, dass Washington die Spitzentechnologie der KI regulieren sollte, gehen aber hinsichtlich der Struktur auseinander. Dario Amodei, CEO von Anthropic, plädiert für eine Behörde nach dem Vorbild der FAA mit bindender Befugnis, unsichere Modelle zu blockieren, während Hassabis eine schlankere, von der Industrie finanzierte Einrichtung unter staatlicher Aufsicht bevorzugt.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast zehn Jahren Erfahrung im Bloggen und der Eventberichterstattung im Kryptobereich. Bei Cryptopolitanschreibt sie für die Nachrichtenseite und berichtet und analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Kryptoregulierung, KI und Zukunftstechnologien. Sie hat an der Arcadia University Betriebswirtschaftslehre studiert.
