New York verabschiedet Gesetz zur Begrenzung katastrophaler Schäden durch KI-Fehlfunktionen

Die Abgeordneten des Bundesstaates New York haben ein Gesetz verabschiedet, das die durch künstliche Intelligenz verursachten Katastrophen begrenzen soll. Laut dem Gesetzentwurf will der Staat verhindern, dass KI-Modelle von Unternehmen wie OpenAI, Google und Anthropologie zu Katastrophenszenarien beitragen.

zufolge Gesetzentwurfumfassen diese Szenarien den Tod oder die Verletzung von mehr als 100 Menschen oder Schäden bzw. Verluste von über einer Milliarde US-Dollar. Der Gesetzentwurf, bekannt als RAISE Act, stellt einen Erfolg für die Bewegungen dar, die sich für mehr Sicherheit im Bereich KI einsetzen. Diese Bewegungen haben in den letzten Jahren an Schwung verloren, da das Silicon Valley und die Trump-Regierung weiterhin Geschwindigkeit und Innovation priorisiert haben.

Befürworter, denen die Sicherheit am Herzen liegt, darunter Nobelpreisträger Geoffrey Hinton und der KI-Forschungspionier Yoshua Bengio, unterstützen den RAISE Act. Sollte das Gesetz in Kraft treten, würde es die ersten gesetzlich vorgeschriebenen Transparenzstandards für führende KI-Labore in den Vereinigten Staaten von Amerika festlegen.

New York erwägt den RAISE Act zur Begrenzung KI-bedingter Katastrophen

Der RAISE Act enthält einige der gleichen Bestimmungen und Ziele wie der umstrittene Gesetzentwurf SB 1047 zur Sicherheit künstlicher Intelligenz in Kalifornien, der schließlich per Veto abgelehnt wurde.

Andrew Gounardes, Senator des Bundesstaates New York und Mitinitiator des RAISE Act, erklärte in einem Interview, er habe den Gesetzentwurf so gestaltet, dass er Innovationen bei Startups und akademischen Forschern nicht behindere – ein häufiger Kritikpunkt am Gesetzentwurf SB 1047. „Angesichts der rasanten Entwicklung dieser Technologie schrumpft das Zeitfenster für die Einrichtung von Schutzmechanismen rapide“, so Senator Gounardes.

Der Senator erklärte außerdem, dass die meisten Experten im Bereich der Künstlichen Intelligenz diese Risiken ebenfalls erkannt hätten – eine Entwicklung, die er als „alarmierend“ bezeichnete. Derweil liegt der RAISE Act der New Yorker Gouverneurin Kathy Hochul zur Unterschrift vor. Sie kann ihn entweder unterzeichnen oder zur Überarbeitung zurücksenden. Eine weitere Möglichkeit wäre ein Veto, was wahrscheinlich ist.

Sollte der RAISE Act in Kraft treten, verpflichtet er einige der weltweit größten KI-Labore zur Veröffentlichung von Sicherheitsberichten über ihre fortschrittlichen KI-Modelle. Das Gesetz sieht außerdem vor, dass KI-Laboredentim Zusammenhang mit dem Verhalten von KI-Modellen oder den Diebstahl von KI-Modellen durch Unbefugte melden müssen.

Sollten Technologieunternehmen diese Standards nicht erfüllen, ermächtigt der RAISE Act den Generalstaatsanwalt von New York, zivilrechtliche Strafen von bis zu 30 Millionen Dollar gegen sie zu verhängen.

Der RAISE Act zielt darauf ab, KI-Labore zu regulieren

Der RAISE Act wurde entwickelt, um die größten KI-Unternehmen weltweit zu regulieren, darunter kalifornische Firmen wie OpenAI und Googlesowie chinesische Unternehmen wie DeepSeek und Alibaba. Das Gesetz enthält eine verpflichtende Klausel für Unternehmen, die mehr als 100 Millionen US-Dollar an Rechenressourcen für das Training ihrer KI-Modelle eingesetzt haben und diedentin New York

Obwohl der RAISE Act in mancher Hinsicht Ähnlichkeiten mit SB 1047 aufweist, befasst er sich mit einigen der vorherigen Gesetzesentwürfe zur Sicherheit von KI.

Beispielsweise verpflichtet keine Klausel Entwickler von KI-Modellen dazu, einen Not-Aus-Schalter in ihre Modelle einzubauen, noch macht sie Unternehmen, die ihre Modelle nachträglich trainieren, für schwerwiegende Schäden verantwortlich. Dennoch gab es laut Alex Bores, Abgeordneter der New Yorker Staatsversammlung und Mitinitiator des RAISE Act, Widerstand gegen den Gesetzentwurf in New York. Er bezeichnete diesen Widerstand als nicht überraschend, fügte aber hinzu, dass der RAISE Act die Entwicklungskompetenz von Technologieunternehmen in keiner Weise einschränken werde.

„Der NY RAISE Act ist ein weiterer dummer, dummer KI-Gesetzentwurf auf Ebene der Bundesstaaten, der den USA nur schaden wird, gerade jetzt, wo unsere Gegner uns einen Schritt voraus sind“, sagte Andreessen Horowitz General Partner Anjney Midha in einem Beitrag vom Freitag auf X.

Andreessen Horowitz und der Startup-Inkubator Y Combinator lehnten SB 1047 vehement ab. Auch Jack Clark, Mitbegründer von Anthropic, äußerte Bedenken hinsichtlich der weitreichenden Bestimmungen des RAISE Act und wies darauf hin, dass dieser Risiken für kleinere Unternehmen bergen könnte.