New York verabschiedet Gesetz zur Begrenzung katastrophaler Katastrophen durch KI-Fehlfunktionen

Gesetzgeber in New York haben einen Gesetzentwurf verabschiedet, um Katastrophen durch künstliche Intelligenz zu begrenzen. Laut dem Gesetzentwurf will der Staat verhindern, dass KI-Modelle, die von Firmen wie OpenAI, Google und Anthropic erstellt wurden, zu Katastrophenszenarien beitragen.

Laut dem Gesetzentwurf umfassen diese Szenarien den Tod oder die Verletzung von mehr als 100 Personen oder Schäden oder Verluste in Höhe von mehr als 1 Milliarde US-Dollar. Der als RAISE Act bekannte Gesetzentwurf stellt einen Sieg für Bewegungen dar, die auf KI-Sicherheit drängen. Diese Bewegungen haben in den letzten Jahren an Schwung verloren, da Silicon Valley und die Trump-Administration weiterhin Geschwindigkeit und Innovation priorisiert haben.

Für Sicherheit engagierte Befürworter, darunter Nobelpreisträger Geoffrey Hinton und KI-Forschungspionier Yoshua Bengio, stehen hinter dem RAISE Act. Wenn er schließlich in Gesetz unterzeichnet wird, würde der Gesetzentwurf den ersten Satz gesetzlich vorgeschriebener Transparenzstandards für führende KI-Labore in den Vereinigten Staaten von Amerika etablieren.

New York prüft RAISE Act zur Begrenzung KI-getriebener Katastrophen

Der RAISE Act hat einige der gleichen Bestimmungen und Ziele wie der umstrittene KI-Sicherheitsgesetzentwurf SB 1047 in Kalifornien, der schließlich vetiert wurde.

Ein Co-Sponsor des RAISE Act, New York State Senator Andrew Gounardes, erwähnte jedoch in einem Interview, dass er den Gesetzentwurf so gestaltet habe, dass er die Innovation von Startups oder akademischen Forschern nicht erstickt, eine häufige Kritik, der SB 1047 ausgesetzt war. „Das Fenster, um Schutzmaßnahmen einzuführen, schließt sich schnell angesichts der schnellen Entwicklung dieser Technologie“, sagte Senator Gounardes.

Der Senator sagte auch, dass die meisten Menschen, die im KI-Sektor bewandert sind, diese Risiken ebenfalls erkannt haben, eine Entwicklung, die er als „besorgniserregend“ bezeichnete. Der RAISE Act ist derzeit auf dem Weg zum Schreibtisch von New Yorks Gouverneurin Kathy Hochul, wo sie ihn entweder in Gesetz unterzeichnen oder zur Änderung zurücksenden könnte. Eine weitere Option wäre, den Gesetzentwurf zu vetieren, was wahrscheinlich ist.

Wenn er schließlich in Gesetz unterzeichnet wird, wird der RAISE Act einige der größten KI-Labore der Welt verpflichten, Sicherheits- und Sicherheitsberichte über ihre Frontier-KI-Modelle zu veröffentlichen. Der Gesetzentwurf verpflichtet KI-Labore auch, Sicherheitsvorfälle im Zusammenhang mit dem Verhalten von KI-Modellen oder böswilligen Akteuren, die ein KI-Modell stehlen, zu melden, falls dies geschieht.

Wenn Tech-Unternehmen diesen Standards nicht gerecht werden, ermächtigt der RAISE Act den Generalstaatsanwalt von New York, zivilrechtliche Strafen von bis zu 30 Millionen US-Dollar gegen sie zu verhängen.

RAISE Act zielt darauf ab, KI-Labore zu regulieren

Der RAISE Act wurde entwickelt, um die größten KI-Firmen weltweit zu regulieren, einschließlich derer in Kalifornien wie OpenAI und Google sowie derer in China wie DeepSeek und Alibaba. Die Anforderungen des Gesetzentwurfs umfassen eine obligatorische Klausel, die für Unternehmen gilt, die mehr als 100 Millionen US-Dollar an Rechenressourcen zur Schulung ihrer KI-Modelle verwendet haben und in New York für Bewohner verfügbar sind.

Obwohl er in gewisser Weise SB 1047 ähnelt, adressiert der RAISE Act einige der früheren KI-Sicherheitsgesetzentwürfe.

Zum Beispiel verlangt keine Klausel, dass KI-Modellentwickler einen Kill-Schalter für ihre Modelle haben, noch hält sie Unternehmen, die ihre Modelle nachtrainieren, für kritische Schäden verantwortlich. Dennoch gab es Widerstand gegen den New Yorker Gesetzentwurf, so der Co-Sponsor des RAISE Act, New York State Assembly-Mitglied Alex Bores. Er nannte den Widerstand unüberraschend, fügte jedoch hinzu, dass der RAISE Act die Entwicklungsfähigkeiten von Tech-Unternehmen in keiner Weise einschränken werde.

„Der NY RAISE Act ist noch ein weiterer dummer, dummer staatlicher KI-Gesetzentwurf, der die USA nur schaden wird, zu einer Zeit, in der unsere Gegner im Wettlauf voraus sind“, sagte Andreessen Horowitz General Partner Anjney Midha in einem Freitag-Post auf X.

Andreessen Horowitz und der Startup-Inkubator Y Combinator waren in heftigem Widerspruch zu SB 1047. Darüber hinaus teilte auch Anthropic-Mitbegründer Jack Clark seine Beschwerden darüber, wie breit der RAISE Act ist, und wies darauf hin, dass er Risiken für kleinere Unternehmen darstellen könnte.