Der Gouverneur von Kalifornien, Gavin Newsom, hat sein Veto gegen einen umstrittenen Gesetzentwurf zur künstlichen Intelligenz (KI) eingelegt und erklärt, dass dieser die Innovation ersticken und die Öffentlichkeit nicht vor den „echten“ Bedenken der Technologie schützen werde. Befürworter des Gesetzentwurfs weisen darauf hin, dass er einige der ersten nationalen Vorschriften für groß angelegte KI-Modelle geschaffen und die Tür für nationale KI-Sicherheitsgesetze geöffnet hätte.
Am 30. September lehnte Newsom SB 1047 ab, auch bekannt als „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“, nachdem es tron Widerstand aus dem Silicon Valley erhalten hatte. Der Gesetzentwurf empfahl vorgeschriebene Sicherheitstests für KI-Modelle und andere Schutzmaßnahmen, von denen Technologiegiganten befürchteten, dass sie Innovationen behindern würden.
Newsom argumentierte, der Gesetzentwurf konzentriere sich zu sehr auf die Regulierung bestehender führender KI-Unternehmen und schütze gleichzeitig nicht die Öffentlichkeit vor den „echten“ Gefahren, die von der neuen Technologie ausgehen.
Er sagte:
Stattdessen legt der Gesetzentwurf selbst für die grundlegendsten Funktionen strenge Standards fest – sofern diese von einem großen System bereitgestellt werden. Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor echten Bedrohungen durch die Technologie zu schützen.
– Gavin Newsom
Senator kritisiert das Veto und nennt es einen Rückschlag für die öffentliche Sicherheit
Der demokratische Senator Scott Weiner, der Verfasser des Gesetzentwurfs, beschrieb die Ablehnung als einen Rückschlag für alle, die an die Aufsicht über große Konzerne glauben, die kritische Entscheidungen treffen, die sich auf die Sicherheit der Öffentlichkeit, das Wohlergehen und die Zukunft des Planeten auswirken.
SB 1047 hätte von Entwicklern, darunter großen Playern wie OpenAI, Meta und Google, verlangt, einen „Kill Switch“ für ihre Modelle der künstlichen Intelligenz zu implementieren und Pläne zur Minderung extremer Risiken zu entwickeln. Darüber hinaus hätte der Gesetzentwurf es dem Generalstaatsanwalt ermöglicht, KI-Entwickler in Fällen zu verklagen, in denen ihre Modelle anhaltende Bedrohungen darstellten, beispielsweise bei der Übernahme eines Netzes durch künstliche Intelligenz.
Dieser Gesetzentwurf zielte speziell auf Systeme ab, deren Entwicklung mehr als 100 Millionen US-Dollar kostet und die viel Rechenleistung benötigen. Kein aktuelles Modell der künstlichen Intelligenz hat diese Schwelle erreicht, aber einige Experten sagten, dass sich dies innerhalb des nächsten Jahres ändern könnte.
Newsom plädiert inmitten der Kontroverse um Sicherheitsgesetze für wissenschaftlich fundierte KI-Vorschriften
Newsom erklärte, er habe sich mit führenden KI-Sicherheitsexperten beraten, um Kalifornien bei der Schaffung wirksamer Vorschriften zu unterstützen, die einer wissenschaftlich fundierten Analyse potenzieller Risiken aus der KI-Entwicklung Vorrang einräumen. Er betonte, dass seine Regierung weiterhin auf strenge Sicherheitsprotokolle drängen werde, und betonte, dass die Regulierungsbehörden nicht auf eine größere Katastrophe warten dürften, um zu handeln.
Trotz seines Vetos gegen SB 1047 betonte Newsom, dass seine Regierung im vergangenen Monat über 18 Gesetzesentwürfe zur KI-Regulierung unterzeichnet habe.
Vor Newsoms Entscheidung war der Gesetzentwurf bei Politikern, Beratern und großen Technologieunternehmen unpopulär. Die Sprecherin des Repräsentantenhauses, Nancy Pelosi, und Unternehmen wie OpenAI haben erklärt, dass dies die Weiterentwicklung der künstlichen Intelligenz erheblich behindern würde.
Der Leiter der KI-Politik beim Abundance Institute, Neil Chilson, warnte davor, dass der Gesetzentwurf zwar in erster Linie auf Modelle abzielt, die mehr als 100 Millionen US-Dollar kosten, sein Anwendungsbereich jedoch leicht ausgeweitet werden könnte, um auch gegen kleinere Entwickler vorzugehen.
Einige Leute stehen der Rechnung jedoch aufgeschlossen gegenüber. Der Milliardär Elon Musk, der sein eigenes Modell für künstliche Intelligenz namens „Grok“ aufbaut, ist einer der wenigen Tech-Schwergewichte, die die Maßnahme und umfassendere KI-Gesetze unterstützen. In einem Post vom 26. August auf