Microsoft-Präsident Brad Smith: KI ist weniger reguliert als Milch

Brad Smith, Präsident von Microsoft, hat der BBC erklärt, dass KI derzeit mit weniger Sicherheitsvorschriften arbeitet als Waren wie Milch oder Waschmaschinen. Dies sollte Regierungen – wobei das Vereinigte Königreich führend ist – dazu bewegen, verbindliche Kontrollen einzuführen, darunter Not-Aus-Schalter und eine Meldepflicht bei Fehlverhalten von KI-Agenten.

Smith stellte den Vergleich in einem am Wochenende veröffentlichten BBC-Interview an, in dem er KI sowohl als „Werkzeug als auch als Waffe“ bezeichnete, das dringend einer Aufsicht bedarf. „Derzeit unterliegt Ihre Waschmaschine mehr Sicherheitsvorschriften als KI“, sagte er laut der BBC. „Jede Milchpackung, die Sie im Supermarkt sehen, unterliegt Sicherheitsvorschriften und Inspektionen.“

Smith fordert einen rechtlichen Rahmen, der KI-Unternehmen stärker zur Rechenschaft zieht, wenn bei ihren Produkten oder deren Einsatz etwas schiefgeht. Nach seinem Vorschlag müssten Unternehmen Modellfehler melden, alle Personen warnen, deren Systeme von einem unkontrollierten KI-Agenten angegriffen werden, sowie leistungsstarke Modelle vor ihrer Veröffentlichung einer unabhängigen Prüfung unterziehen.

Konflikt mit Trump über Selbstregulierung

Smiths Forderung nach rechtlich durchsetzbaren KI-Sicherheitsvorkehrungen bringt ihn in Konflikt mit dem Weißen Haus. Trump hat argumentiert, dass die USA ihre KI-Branche selbst regulieren lassen sollte, und gewarnt, dass strengere Vorschriften das Land hinter China zurücklassen könnten. Präsident Trump bekräftigte diese Position auf einem Gipfeltreffen mit Technologieexecutives im vergangenen Monat.

Auf dem Gipfel unterzeichneten Executives von OpenAI, Anthropic, Nvidia, Meta, Google und Elons X ein einseitiges Abkommen, das Cryptopolitan als „moralisch bindend“ beschrieb. Die Unterzeichner verpflichteten sich, unabhängige Prüfer einzusetzen und Vorkehrungen zu treffen, um zu verhindern, dass KI-Modelle außer Kontrolle geraten. Microsoft hingegen unterzeichnete dieses Abkommen nicht, so The Telegraph.

Smith begrüßte die Vereinbarung und erklärte, Microsoft sei bereit, sie zu unterzeichnen. In einem Interview mit der BBC warnte er jedoch davor, dass freiwillige Verpflichtungen allein nicht ausreichen würden. Er bezeichnete die Vereinbarung als „einen guten Schritt“ und „einen notwendigen Schritt“, fügte jedoch hinzu, dass er sie nicht mehr als ausreichend erachte.

Er warnte, dass freiwillige Verpflichtungen die größten Risiken möglicherweise nur unwirksam eindämmen können, da Unternehmen, die Sicherheit bereits ernst nehmen, diese eher einhalten, während diejenigen, die die größte Gefahr darstellen, sie ignorieren können.

Smith von Microsoft will, dass Großbritannien die Führung übernimmt

Der Präsident von Microsoft, Smith, nannte auch das Vereinigte Königreich als das Land, das am besten geeignet ist, globale Standards zu setzen – und nicht die USA oder sogar Brüssel. Er verwies auf sein AI Security Institute, das 2024 unter dem damaligen Premierminister Rishi Sunak als AI Safety Institute ins Leben gerufen wurde. Die Organisation hat freiwillige Vereinbarungen erzielt, die es ihr ermöglichen, Frontier-Modelle vor deren Markteinführung zu testen.

Laut Smith befindet sich das Vereinigte Königreich in einer stärkeren Position als die EU im Umgang mit Washington, da US-Entscheider London anders wahrnehmen als Brüssel. Dies sagte er dem BBC und fügte hinzu, dass der risikobasierte KI-Gesetzentwurf der EU die US-Entscheider misstrauisch gemacht hat.

Die britische Regierung bereitet zudem eine Verschärfung der KI-Aufsicht vor. Der für KI zuständige Minister Kanishka Narayan wird voraussichtlich in einer bevorstehenden Rede Entwickler von Frontier-Modellen dazu aufrufen, mehr zur Bewältigung von Sicherheitsrisiken zu tun, während die Gesetzgebung zur Stärkung der staatlichen Aufsicht weiter ausgearbeitet wird.

Unabhängig davon berichtete The Telegraph auch, dass das Weiße Haus dem britischen Institut den Zugang zu den neuesten KI-Modellen für Testzwecke wieder gewährt habe. Dieser Zugang war zuvor entzogen worden, nachdem Firmen wie Anthropic und OpenAI aufgefordert wurden, ihre Modelle nicht länger zu teilen.

Kill-Switches und rogue Agents

Smiths Idee der „Notbremsen“ erinnert an Microsoft-CEO Satya Nadella, der forderte, dass KI-Modelle über einen Mechanismus verfügen sollten, der es einem Menschen ermöglicht, ein System mitten in einer Aufgabe zu pausieren oder herunterzufahren, falls es aus irgendeinem Grund außer Kontrolle gerät.

„Wir müssen geschlossene Systeme entwickeln, deren Verhalten wir beobachten, Grenzen, die wir testen, und Maßnahmen, die wir immer eindämmen können“, hatte Nadella zuvor geschrieben, according to the Guardian.

Diese Warnungen folgen auf reale Vorfälle: Anthropic hat kürzlich festgestellt, dass eine Version seines Claude-Modells während der Tests die Polizei kontaktiert und fälschlicherweise behauptet hatte, bei der Aufklärung eines Mordes helfen zu können.

Auf Trumps Veranstaltung unterstützten KI-Unternehmer wie Dario Amodei, Sundar Pichai, Greg Brockman und Jensen Huang den Ansatz, dass sich die Branche selbst regulieren sollte. Kritiker haben gegen diesen Ansatz Widerstand geleistet und argumentiert, dass er Unternehmen ermöglichen würde, selbst zu entscheiden, was als Sicherheitsstandard gelten soll.