Kalifornischer Ausschuss bringt Gesetzentwurf zur KI-Regulierung voran

Der Haushaltsausschuss der kalifornischen Staatsversammlung stimmte für den Gesetzentwurf SB 1047 zur Regulierung der KI-Branche. Der Gesetzentwurf, offiziell bekannt als „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“, konzentriert sich auf die Entwickler von KI-Modellen der Spitzenklasse, deren Training mindestens 100 Millionen US-Dollar kostet. 

Das Gesetz verpflichtet Entwickler von KI-Modellen zur Einführung von Sicherheitsmaßnahmen, zur Durchführung von Audits und zur Gewährleistung, dass ihre Modelle keinen großen Schaden anrichten. Es sieht außerdem ein Hinweisgebersystem für KI-Mitarbeiter vor und ermöglicht es dem Generalstaatsanwalt, rechtliche Schritte gegen Unternehmen einzuleiten, deren KI-Modelle schwerwiegende Schäden oder Gefahren für die Öffentlichkeit verursachen. 

Abgeordnete ändern Gesetzentwurf, um Bedenken der Industrie zu berücksichtigen

Der Gesetzentwurf sieht außerdem die Einrichtung des öffentlichen Cloud-Computing-Clusters CalCompute zur Unterstützung der KI-Infrastruktur des Bundesstaates vor. Mark Zuckerberg erklärte kürzlich, dass die nächste Generation von Metas Llama die zehnfache Rechenleistung benötigen werde, was unter den Geltungsbereich des Gesetzentwurfs SB 1047 fallen würde. 

Um der Kritik der Kritiker entgegenzuwirken, wurden jedoch mehrere wichtige Änderungen vorgenommen. Insbesondere wurden die strafrechtlichen Sanktionen aus dem Gesetzentwurf gestrichen, und auch die Bestimmung zur Schaffung einer neuen Regulierungsbehörde namens „Frontier Model Division“ wurde fallen gelassen.  

Senator Wiener zufolge gefiel ihm an dem Gesetzentwurf vor allem die Ausgewogenheit zwischen Innovation und Sicherheit. Wiener erklärte, dass es möglich sei, Sicherheit und Innovation gleichzeitig zu verbessern, und betonte, dass Sicherheit kein Hindernis für Fortschritt darstellen dürfe. 

Der Gesetzentwurf hat im Silicon Valley und der gesamten Technologiebranche für heftige Kontroversen gesorgt. Auch Technologiekonzerne und einige Mitglieder des Silicon Valley Congress, darunter Anna Eshoo, Zoe Lofgren und Ro Khanna, haben sich gegen den Entwurf ausgesprochen. 

Der Gesetzentwurf geht in die nächste Legislaturperiode über.

In einem Brief an Gouverneur Gavin Newsom baten diese Abgeordneten um ein Veto und merkten an, dass sich der Gesetzentwurf zu sehr mit dem eher unwahrscheinlichen Missbrauch der Technologie befasse. Sie führten außerdem an, dass er die dringlicheren Probleme wie Fehlinformationen, Umweltauswirkungen oder Arbeitsplatzverluste nicht angehe. 

Jaikumar Ramaswamy, der Leiter der Rechtsabteilung bei Andreessen Horowitz, teilte diese Bedenken und merkte an, dass das Gesetz Innovationen behindern und Technologieunternehmen aus Kalifornien vertreiben könnte. Das Gesetz wurde von einflussreichen KI-Forschern wie Geoffrey Hinton und Yoshua Bengio unterstützt.

Der Gesetzentwurf SB 1047 wurde vom Haushaltsausschuss gebilligt und geht nun an die Abgeordnetenkammer, wo er bis zum 31. August verabschiedet werden muss. Bei Annahme des Gesetzentwurfs geht dieser zum dritten und letzten Mal an den Senat des Bundesstaates und anschließend an das Büro des Gouverneurs. Der Gouverneur hat sich zum jetzigen Zeitpunkt noch nicht öffentlich zu dem Gesetzentwurf geäußert. Sollte SB 1047 verabschiedet werden, tritt er erst 2026 in Kraft, was ausreichend Zeit für die Einrichtung der FMD (Feinstaubmilbenbekämpfungsbehörde) lässt.