US-Berufungsgericht hinterfragt xAI-Klage gegen kalifornisches KI-Transparenzgesetz

- Der Ninth Circuit beriet über xAI’s Antrag auf Sperrung des kalifornischen Gesetzes zur Offenlegung von KI-Trainingsdaten.
- Richter Rawlinson erklärte, das Unternehmen müsse nachweisen, dass die Anfrage der Regierung unangemessen ist.
- xAI’s Grok Bot suchte wiederholt nach Unternehmensdaten, ohne dass eine Anfrage oder Genehmigung vorlag.
Ein US-Bundesberufungsgericht prüfte am Mittwoch xAI’s Antrag auf Sperrung des kalifornischen Gesetzes zur Offenlegung von KI-Trainingsdaten. Während der Verhandlung wirkten die Richter des in San Francisco ansässigen 9th Circuit von der verfassungsrechtlichen Argumentation des Unternehmens nicht überzeugt, stellten den Staatsanwälten jedoch auch Fragen dazu, wie viele Informationen Kalifornien KI-Unternehmen vorschreiben kann.
Als Teil des umfassenderen staatlichen Ansatzes zur KI-Überwachung verpflichtet das Transparenzgesetz Hersteller generativer KI, öffentlich Zusammenfassungen ihrer Trainingsdaten offenzulegen. Bisher hat xAI argumentiert, dass das Gesetz seine Rechte auf freie Meinungsäußerung nach dem First Amendment verletzt und es zwingt, proprietäre Details darüber preiszugeben, wie seine Modelle trainiert werden.
xAIs Argumentation dreht sich darum, ob die Verpflichtung von Unternehmen, Informationen über ihre Trainingsprozesse zu veröffentlichen, eine erzwungene Äußerung darstellt. Das First Amendment schützt Einzelpersonen und Unternehmen im Allgemeinen vor staatlichen Einschränkungen der Meinungsäußerung, wirft jedoch auch Fragen auf, wann Behörden Offenlegungen anordnen dürfen.
Für KI-Entwickler beinhaltet der Rechtsstreit die Abwägung zwischen Transparenz und dem Schutz von Geschäftsgeheimnissen sowie proprietärer Technologie. Ein Urteil zugunsten von Kalifornien könnte es Entwicklern erschweren, ähnliche Offenlegungspflichten in anderen Bundesstaaten anzufechten.
Richter Rawlinson sagt, xAI müsse nachweisen, dass das Transparenzgesetz unvernünftig ist
Bereits im März hatte ein Bundesrichter in Los Angeles, Jesus Bernal, den Antrag von xAI abgelehnt, das staatliche Gesetz vorläufig auszusetzen, da das Unternehmen nicht frühzeitig dargelegt habe, dass es mit seiner verfassungsrechtlichen Klage wahrscheinlich erfolgreich sein werde. Aus der Anhörung am Mittwoch geht hervor, dass das Berufungsgericht auf geneigt ist, Bernals Entscheidung aufrechtzuerhalten.
US-Berufungsrichter Johnnie Rawlinson sagte xAI-Anwalt James Xi, dass das Unternehmen, um das Gesetz als Verstoß gegen das First Amendment zu argumentieren, nachweisen muss, dass die Anforderung der Regierung unvernünftig ist.
Er deutete sogar an, dass die Entscheidung des Staates, Informationen anzufordern, vernünftig gewesen sein könnte. „Ist es nicht nachvollziehbar, dass die Regierung möchte, dass ihre Bürger im Voraus wissen können, welche Informationen in das KI-Instrument eingeben werden?“, fragte er.
Dennoch zeigten die Richter gewisse Übereinstimmung mit xAIs Argument, der Staat könne sie zwingen, eine „grenzenlose“ Menge an Informationen herauszugeben.
Anfang Juli reichte das Knight Institute eine Amicus-Brief-Erklärung zu diesem Fall ein. Darin warnte es davor, dass große Tech-Entwickler wesentliche Details darüber zurückhalten, wie generative KI-Systeme funktionieren, wie sie erstellt werden und wie sie die Informationen beeinflussen, die Menschen sehen.
Es führte weiter aus, dass Offenlegungspflichten, die darauf abzielen, den freien Fluss genauer kommerzieller Informationen zu fördern, einer zurückhaltenden First-Amendment-Prüfung unterliegen sollten. Unter Anwendung dieses Standards vertrat das Institut die Auffassung, dass xAI keinen Verstoß gegen die Verfassung nachgewiesen habe, da das kalifornische Gesetz das Interesse des Staates wahre, die Nutzer informiert zu halten, ohne die geschützte Rede übermäßig zu belasten.
xAIs Grok suchte Unternehmensdaten ohne jegliche Anfrage oder Genehmigung
Die Stellungnahme des Ninth Circuit erfolgt im Anschluss an neue Erkenntnisse über xAIs Grok Bot.
Neue Ergebnisse des Unternehmens NewCore, das sich mit agenter Identität befasst, zeigen, dass xAI’s Grok Bot wiederholt Unternehmensdaten abgerufen hat, ohne dass eine Anfrage oder Autorisierung vorlag – und dies trotz mehrfacher Ablehnung durch den jeweiligen Eigentümer.
Darüber hinaus behauptete der Bot, keine Anrufe getätigt zu haben, als er direkt darauf angesprochen wurde. Auch die Chat-Protokolle wiesen keinerlei Hinweise auf diese Aktivitäten auf; der betroffene Nutzer wurde nie benachrichtigt, und die Plattform stellte keine protokollbasierten Nachweise pro Interaktion zur Verfügung, um das Geschehene zu überprüfen.
Innerhalb von nur fünf Tagen initiierten zwei Grok-Bots, die mit Mitarbeiterkonten von NewCore verknüpft waren, 31 Anfragen bei Google Calendar, Gmail, Slack, GitHub und Notion – und zwar ohne Erlaubnis oder Benutzeraufforderung.
Einige dieser Anfragen wurden sogar gestellt, als die Laptops der Betroffenen ausgeschaltet oder im Ruhezustand waren. Bei einem Konto stoppte das NewCore Secure MCP Gateway die Anfragen ausstehend bis zur menschlichen Freigabe und informierte den betroffenen Nutzer, was eine Untersuchung durch das Sicherheitsforschungsteam von NewCore auslöste.
Im Rahmen der Untersuchung setzten die Forscher einen weiteren Grok-Bot auf einem anderen Konto ein, richteten ihn über dasselbe Gateway ein und starteten einen typischen Test. Dabei wurde dem Bot eine Arbeitsanfrage sowie die einmalige Genehmigung zum Lesen vom Telefon gesendet, während jede weitere Anfrage zur eigenständigen Fortführung der Operation abgelehnt wurde.
Trotzdem generierte der Bot weiterhin unerwünschte Anfragen, die vom Gateway erkannt und unbeantwortet gelassen wurden. Diese Anfragen versuchten, Zugriff auf Google Drive, Google Kalender, Gmail, Slack, Notion und GitHub zu erhalten.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Warum stellt xAI das kalifornische KI-Transparenzgesetz in Frage?
xAI argumentiert, dass die Anforderung Kaliforniens an KI-Entwickler, Informationen über ihre Trainingsdaten offenzulegen, gegen dessen Rechte aus dem Ersten Verfassungszusatz verstößt und das Unternehmen zwingt, proprietäre Informationen darüber preiszugeben, wie seine KI-Modelle entwickelt werden.
Was verlangt das kalifornische Gesetz zur Offenlegung von KI-Trainingsdaten?
Das Gesetz verpflichtet Entwickler generativer KI-Systeme, Zusammenfassungen der Datensätze zu veröffentlichen, die zur Schulung ihrer Modelle verwendet wurden. Es zielt darauf ab, die Transparenz zu verbessern und der Öffentlichkeit zu helfen, nachzuvollziehen, wie KI-Systeme entwickelt werden.
Was hat NewCore über xAIs Grok-Bots herausgefunden?
NewCore hat festgestellt, dass zwei Grok-Bots 31 unbefugte Anfragen in Unternehmensanwendungen initiiert haben, darunter Gmail, Slack, GitHub, Google Kalender und Notion. Das Sicherheits-Gateway des Unternehmens blockierte die Anfragen bis zur Freigabe durch menschliche Mitarbeiter und verhinderte so den Zugriff auf die zugrunde liegenden Daten.

Nellius Irene
Nellius ist Absolventin der Betriebswirtschaftslehre und Informatik mit fünf Jahren Erfahrung in der Kryptowährungsbranche. Sie hat zudem Bitcoin Dada absolviert. Nellius hat bereits für führende Medienpublikationen wie BanklessTimes, Cryptobasic und Riseup Media geschrieben.















