Kaliforniens Gouverneur Gavin Newsom hat ein umstrittenes Gesetz zur künstlichen Intelligenz (KI) mit seinem Veto abgelehnt. Er begründete dies damit, dass das Gesetz Innovationen ersticken und die Öffentlichkeit nicht ausreichend vor den „realen“ Gefahren dieser Technologie schützen würde. Befürworter des Gesetzes argumentieren hingegen, dass es einige der ersten nationalen Regelungen für groß angelegte KI-Modelle geschaffen und den Weg für nationale KI-Sicherheitsgesetze geebnet hätte.
Am 30. September lehnte Newsom den Gesetzentwurf SB 1047, auch bekannt als „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“, nachtronWiderstand aus dem Silicon Valley ab. Der Gesetzentwurf empfahl verpflichtende Sicherheitstests für KI-Modelle und weitere Schutzmaßnahmen, von denen die Technologiekonzerne befürchteten, sie würden Innovationen behindern.
Newsom argumentierte, der Gesetzentwurf konzentriere sich zu sehr auf die Regulierung der bestehenden führenden KI-Unternehmen, während er es versäume, die Öffentlichkeit vor den „realen“ Gefahren der neuen Technologie zu schützen.
Er sagte:
Stattdessen legt der Gesetzentwurf selbst für grundlegendste Funktionen strenge Standards fest – vorausgesetzt, ein großes System nutzt diese. Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor den realen Bedrohungen durch diese Technologie zu schützen.
– Gavin Newsom
Der Senator kritisiert das Veto und bezeichnet es als Rückschlag für die öffentliche Sicherheit.
Der demokratische Staatssenator Scott Weiner, der Verfasser des Gesetzesentwurfs, bezeichnete die Ablehnung als Rückschlag für alle, die an die Kontrolle von Großkonzernen glauben, die wichtige Entscheidungen treffen, die die Sicherheit der Öffentlichkeit, das Wohlergehen und die Zukunft des Planeten beeinflussen.
Der Gesetzentwurf SB 1047 hätte Entwickler, darunter Branchengrößen wie OpenAI, Meta und Google, verpflichtet, einen „Not-Aus-Schalter“ für ihre KI-Modelle zu implementieren und Pläne zur Minderung extremer Risiken zu entwickeln. Darüber hinaus hätte der Gesetzentwurf es dem Generalstaatsanwalt ermöglicht, KI-Entwickler in Fällen zu verklagen, in denen ihre Modelle anhaltende Bedrohungen darstellen, beispielsweise die Übernahme eines KI-Netzwerks.
Dieser Gesetzentwurf zielte speziell auf Systeme ab, deren Entwicklung mehr als 100 Millionen Dollar kostet und die eine hohe Rechenleistung benötigen. Bisher hat kein KI-Modell diese Schwelle erreicht, doch einige Experten gehen davon aus, dass sich dies innerhalb des nächsten Jahres ändern könnte.
Newsom plädiert inmitten der Kontroverse um das Sicherheitsgesetz für wissenschaftlich fundierte KI-Regulierungen.
Newsom erklärte, er habe führende KI-Sicherheitsexperten konsultiert, um Kalifornien bei der Entwicklung wirksamer Vorschriften zu unterstützen, die einer wissenschaftlich fundierten Analyse potenzieller Risiken der KI-Entwicklung Priorität einräumen. Er betonte, seine Regierung werde sich weiterhin für strenge Sicherheitsprotokolle einsetzen und darauf bestehen, dass die Regulierungsbehörden nicht erst auf eine große Katastrophe warten dürften, um zu handeln.
Trotz seines Vetos gegen SB 1047 betonte Newsom, dass seine Regierung im vergangenen Monat über 18 Gesetze zur Regulierung von KI unterzeichnet habe.
Vor Newsoms Entscheidung war der Gesetzentwurf bei Politikern, Beratern und großen Technologieunternehmen unbeliebt. Die Sprecherin des Repräsentantenhauses, Nancy Pelosi, und Unternehmen wie OpenAI erklärten, er würde den Fortschritt künstlicher Intelligenz erheblich behindern.
Neil Chilson, Leiter der Abteilung für KI-Politik am Abundance Institute, warnte davor, dass der Gesetzentwurf zwar in erster Linie auf Modelle mit Kosten von über 100 Millionen Dollar abzielt, sein Anwendungsbereich aber leicht ausgeweitet werden könnte, um auch gegen kleinere Entwickler vorzugehen.
Einige stehen dem Gesetzentwurf jedoch aufgeschlossen gegenüber. Der Milliardär Elon Musk, der an seinem eigenen KI-Modell „Grok“ arbeitet, gehört zu den wenigen Schwergewichten der Tech-Branche, die die Maßnahme und weitergehende KI-Gesetze unterstützen. In einem Beitrag vom 26. August auf X erklärte Musk Kalifornien solle den Gesetzentwurf SB 1047 zur KI-Sicherheit wahrscheinlich verabschieden, räumte aber ein, dass die Unterstützung des Gesetzentwurfs eine „schwierige Entscheidung“ sei.
