Kalifornischer Gesetzentwurf zur KI-Regulierung liegt dem Gouverneur zur Unterschrift vor

Ein viel diskutierter Gesetzentwurf zur Regulierung künstlicher Intelligenz (KI) hat eine wichtige Hürde im kalifornischen Parlament genommen. SB-1047, ein Gesetzentwurf zur Regulierung großer KI-Modelle aus Sicherheitsgründen, wurde von der kalifornischen Staatsversammlung mit 45 Ja-Stimmen und 11 Nein-Stimmen angenommen. 

Der Gesetzentwurf, der im Mai vom Senat des Bundesstaates mit 32 zu 1 Stimmen verabschiedet wurde, wird voraussichtlich noch eine Verfahrensabstimmung im Senat durchlaufen, bevor er Gouverneur Gavin Newsom zur Unterzeichnung vorgelegt wird. 

KI-Experten unterstützen Gesetzesentwurf zur Bekämpfung potenzieller KI-Bedrohungen

SB-1047 verpflichtet Entwickler von groß angelegten KI-Systemen, deren Entwicklung über 100 Millionen US-Dollar gekostet hat, einen „Not-Aus-Schalter“ einzubauen, der die KI abschaltet, falls sie negative Auswirkungen auf die Öffentlichkeit entwickelt. Dieser Ansatz ist besonders relevant, wenn ein KI-System mit minimalem menschlichen Eingriff funktionieren muss und Worst-Case-Szenarien eintreten können. 

Die Befürworter des Gesetzes argumentieren, dass es angesichts der zunehmenden Selbstständigkeit fortschrittlicher KI-Technologien notwendig sei, die damit verbundenen Risiken zu bewältigen. Der Verfasser des Gesetzes, Senator Scott Weiner, wies darauf hin, dass führende KI-Experten wie Geoffrey Hinton und Yoshua Bengio Bedenken hinsichtlich potenzieller Gefahren durch KI geäußert hätten.

Im vergangenen Jahr gehörten Hinton und Bengio zu den Unterzeichnern einer Erklärung, in der es hieß, dass eine unkontrollierte KI zum Aussterben der Menschheit führen könnte. 

Kritiker äußern Bedenken hinsichtlich Bills Auswirkungen auf die Innovation

Der Gesetzentwurf SB-1047 stieß jedoch bei Befürwortern der KI-Forschung und -Wirtschaft auf viel Kritik. Einige argumentierten, dass sich der Entwurf eher mit zukünftigen Risiken als mit aktuellen Gefahren wie Deepfakes und Fake News befasst. 

Fei-Fei Li, die Direktorin des Stanford Institute of Human-Centered Artificial Intelligence, hat sich vehement gegen den Gesetzentwurf ausgesprochen. Laut Li stellt die Gesetzgebung in ihrem jüngsten Leitartikel eine Bedrohung für Innovationen dar, da Entwickler einem hohen Haftungsrisiko ausgesetzt sind. Sie merkte an, dass dies die Weitergabe von KI-Modellen und -Gewichten im Open-Source-Format behindern könnte, die für die Wissenschaft und die Zusammenarbeit unerlässlich sind.

Kalifornische Wirtschaftsführer unterzeichneten einen offenen Brief, in dem sie Newsom aufforderten, sein Veto gegen den Gesetzentwurf einzulegen, den sie als „grundlegend fehlerhaft“ bezeichneten. Da SB-1047 kurz vor der Verabschiedung steht, hat Gouverneur Gavin Newsom bis zum 30. September Zeit, den Gesetzentwurf zu unterzeichnen.

Im Mai dieses Jahres stimmte , dass angemessene Regulierung ein schmaler Grat sei. Er äußerte Bedenken, dass der Staat durch Überregulierung in eine „sehr prekäre Lage“ geraten könne. Gleichzeitig räumte Newsom jedoch ein, dass eine gewisse Regulierung notwendig sei, da Vertreter der KI-Branche bestimmte Fragen aufgeworfen hätten.