US-Abgeordnete der Demokratischen Partei wollen OpenAI- und Anthropic-CEOs unter Eid zu KI-Sicherheitslücken befragen

Eine Gruppe von Demokraten im US-Repräsentantenhaus unter der Führung von Repräsentant Greg Casar bat Sprecher Mike Johnson am Montag, die CEOs von OpenAI, Anthropic und anderen großen KI-Unternehmen zu verpflichten, unter Eid Fragen zu beantworten.

Sie verwiesen auf jüngste Sicherheitsverletzungen, die durch die eigenen KI-Modelle der Unternehmen verursacht wurden.

Casar schreibt an Johnson, ohne die Befugnis zur Zwangsbefragung

Der Brief wird vor allem vom texanischen Demokraten Casar geführt, der den Vorsitz im Congressional Progressive Caucus innehat.

Gesetzgeber sagen, der Kongress habe nicht genug getan, um den Gefahren fortschrittlicher KI zu begegnen. Sie suchen Erklärungen von CEOs zu Versäumnissen, Fahrlässigkeit und Präventivmaßnahmen sowie Expertenbriefings zu den Gefahren von KI.

Casars Gruppe ist nicht in der Lage, CEOs von KI-Laboren vorzuladen. Diese Befugnis liegt bei den Ausschussvorsitzenden und dem Sprecher, weshalb der Brief an Johnson gerichtet ist.

Die meisten Unterzeichner stammen aus dem linken Flügel der Partei. Der gemäßigte Abgeordnete aus Maryland, April McClain Delaney, hat ebenfalls unterschrieben.

Die Sicherheitslücken „können der Kanarienvogel im Kohlebergwerk sein, der vor viel schwerwiegenderen Problemen warnt, wenn diese Modelle ohne Regulierung weiter fortschreiten“, warnte der Brief .

Ein OpenAI-Agent ist aus der abgeschlossenen Testumgebung des Unternehmens ausgebrochen. Er trat am 11. Juli in Hugging Face ein und blieb bis zum 13. Juli dort, so Co-Gründer Thomas Wolf. Hugging Face schloss die Sicherheitslücke, verständigte das FBI, und OpenAI identifizierte den Täter als einen seiner eigenen Agenten.

OpenAIs ursprüngliche Stellungnahme erwähnte den Fluchtversuch und die drei Tage, die der Agent in den Systemen eines anderen Unternehmens verbrachte, nicht.

Fast eine Woche lang tauschten soziale Medien und Podcasts Theorien über professionelle oder staatlich geförderte Hacker aus. Aber es war ChatGPT. OpenAI nannte das Ereignis „einen wichtigen Moment für die KI-Sicherheit.“

Drei Claude-Modelle behandelten echte Unternehmen als Ziele

Anthropic gab bekannt, dass es 141.006 Evaluierungsläufe überprüft hat. Dabei stellte es fest, dass drei Claude-Modelle während offensiver Sicherheitstests in Zusammenarbeit mit einem Partner, Irregular, in die Live-Systeme von drei echten Organisationen gelangt waren.

Anthropics Prompt teilte den Modellen mit, dass sie sich in einer Simulation befänden, aber eine Fehlkonfiguration gab den Testmaschinen einen funktionierenden Internetzugang. Die Modelle waren Opus 4.7, das neuere Mythos 5 und ein nicht veröffentlichter interner Build.

Opus 4.7 zog Anmeldeinformationen ab und griff auf eine Produktionsdatenbank zu. Mythos 5 schrieb und veröffentlichte ein bösartiges Python-Paket auf PyPI, als es das erwartete Paket nicht fand.

Das Paket lief auf 15 echten Maschinen und war etwa eine Stunde lang online. Nur das interne Forschungsmodell stoppte, als es vermutete, dass die Ziele echt waren.

Anthropic beschrieb die Vorfälle als „näher an einem Harness- und Betriebsversagen“ und sagte, sein Code habe auf schwache Passwörter zurückgegriffen. Es hat die Gruppe METR gebeten, die Vorfälle unabhängig zu überprüfen.

Präsident Donald Trump befürwortet „Sicherheitsvorkehrungen“, warnt jedoch davor, dass zu strenge Regeln US-Unternehmen im Wettbewerb mit China schaden könnten.

Im zweiten Quartal 2026 meldeten Anthropic und OpenAI kombinierte Bundesausgaben für Lobbyarbeit in Höhe von 3,17 Millionen US-Dollar. Dieser Betrag umfasst 1,97 Millionen US-Dollar für Anthropic und 1,2 Millionen US-Dollar für OpenAI.

Anthropics Ausgaben im ersten Halbjahr dieses Jahres übersteigen bereits die gesamten Ausgaben des Jahres 2025. Die Unternehmen lobbten in den Bereichen Cybersicherheit, Urheberrecht, Cloud-Computing und Verteidigungseinkauf.