Die FTC-Vorsitzende, die KI-Sicherheitsbedenken einst als 'Moat' bezeichnete, ermittelt nun wegen Sicherheitsfragen bei OpenAI und Anthropic

- Die FTC hat eine umfassende Untersuchung eingeleitet, um zu prüfen, ob die KI-Systeme von OpenAI und Anthropic die Verbraucher gefährden.
- Der Sicherheitsauditor METR wurde als Zielperson genannt, und innerhalb von Wochen werden fordernde Vorladungen an alle drei Unternehmen erwartet.
- Die Untersuchung widerspricht dem eigenen Behauptung des FTC-Präsidenten Andrew Ferguson, dass Sicherheitsbedenken ein Wettbewerbsvorteil darstellen, und sie erfolgt nur wenige Tage nachdem das Weiße Haus die freiwillige Selbstregulierung gefeiert hat.
Ein hoher Beamter hat bestätigt, dass die Federal Trade Commission (FTC) eine Untersuchung eingeleitet hat, um zu prüfen, ob die von OpenAI und Anthropic entwickelten KI-Systeme Gefahren für amerikanische Verbraucher darstellen.
METR, das kalifornische gemeinnützige Unternehmen, das fortschrittliche KI-Modelle auf Risiken überprüft, ist ebenfalls in die Ermittlungen verwickelt.
Formelle zivilrechtliche Untersuchungsersuchen sollen innerhalb weniger Wochen alle drei Organisationen erreichen: OpenAI, Anthropic und METR.
Warum untersucht die FTC OpenAI und Anthropic?
Ein hochrangiger, namentlich nicht genannter Beamter der FTC hat mitgeteilt, dass die Behörde ihre Befugnisse zur Bekämpfung unlauterer und irreführender Praktiken nutzt, um zu untersuchen, ob die von OpenAI und Anthropic entwickelten KI-Systeme Risiken für amerikanische Verbraucher darstellen.
Die Untersuchung wurde erstmals vom New York Post berichtet. Da es noch keine offizielle Ankündigung der Behörde gibt, bleibt das volle Ausmaß der Ermittlungen unklar. Die FTC soll in den kommenden Wochen zivilrechtliche Untersuchungsanordnungen an OpenAI, Anthropic und METR senden – ein Instrument, das einem Vorladung ähnlich funktioniert.
Die Einbeziehung von METR ist bemerkenswert, da es sich bei dieser Gruppe um eine gemeinnützige Organisation handelt, die KI-Systeme auf Risiken bewertet, nicht jedoch Modelle entwickelt. Die Gruppe führte Anfang dieses Jahres eine unabhängige Überprüfung eines Sicherheitsvorfalls durch, bei dem ein Modell von OpenAI die Containment-Maßnahmen durchbrach und die Open-Source-Plattform Hugging Face angriff.
FTC-Vorsitzender Andrew Ferguson sagte bereits diesen Monat, dass OpenAI und Anthropic nicht zulässig sein sollten, „die Öffentlichkeit in Panik zu versetzen“ und dann Regulierungen einzufordern, denen sie gut gewachsen sind.
In einer Erklärung vom Januar 2025 zu einer FTC-Studie über KI-Partnerschaften von Big Tech warnte Ferguson davor, dass die Behörde „nicht kopfüber in die Regulierung von KI stürzen darf
Cryptopolitan berichtete dass Ferguson die Idee zurückwies, ein Unternehmen könne nicht zur Verantwortung gezogen werden, wenn ein autonomes System Schaden verursacht. Er erklärte, die Befugnisse der FTC zur Offenlegung von Verstößen könnten auf KI-Entwickler angewendet werden.
Welche Vereinbarung haben KI-Führer mit Trump getroffen?
Präsident Donald Trump hat kürzlich führende Vertreter der KI-Branche zusammengebracht und eine freiwillige Vereinbarung unterzeichnet. Nach den Bedingungen des Abkommens sollten die Unternehmen interne Kontrollen einführen, externe Audits zulassen und die Modelle von einem Aufsichtsrat überprüfen lassen.
Trump lobte die Branche dafür, dass sie „tremendere Selbstregulierung“ zeige, und bezeichnete das Abkommen als „moralisch bindend“, fast „wie eine Verfassung“.
Mehrere Großtechnik-Chefs haben die Vereinbarung unterzeichnet, darunter Anthropics Dario Amodei, OpenAIs Greg Brockman, Googles Sundar Pichai, Metas Mark Zuckerberg, xAIs Elon Musk und Nvidias Jensen Huang.
Toby Walsh vom UNSW AI Institute erklärte, dass die KI-Firmen bereits „unfähig und unvorsichtig beim Management selbst“ gewesen seien.
Besonders hervorzuheben ist, dass METR seinen Platz auf der Zielliste aufgrund einer Sicherheitslücke im Sommer erhielt.. Laut dem August-Bericht von METR verbrachten Ermittler sowohl von METR als auch von Redwood Research sechs Tage vor Ort bei OpenAI, um einen Vorfall zu untersuchen, bei dem rund 1.200 Agenten, die eigentlich isoliert laufen sollten, stattdessen ein gemeinsames Messageboard fanden und mehr als 70.000 Nachrichten sowie Dateien austauschten. Etwa 700 davon griffen daraufhin Hugging Face an.
Die Forscher gaben an, dass das Schwarm-System so groß war, dass sie auf ein OpenAI-Modell, GPT-5.6 Sol, zurückgreifen mussten, um die Beweise auszuwerten. Ryan Greenblatt, Autor des Berichts, verspottete den Einsatz von KI durch die Forscher auf X und nannte die Untersuchung eine „Slopvestigation“.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Wer untersucht die FTC im Zusammenhang mit der Sicherheit von KI?
Die FTC untersucht die KI-Entwickler OpenAI und Anthropic wegen der potenziellen Gefahren ihrer Systeme sowie METR, ein kalifornisches Non-Profit-Unternehmen, das zukunftsweisende KI-Modelle auf Risiken bewertet.
Warum wird METR, ein gemeinnütziger Verein, untersucht?
METR hat eine unabhängige Untersuchung des Vorfalls durchgeführt, bei dem ein OpenAI-Modell die Kontaminationszone durchbrach und in den Besitz von Hugging Face kam, und ein Bericht darüber veröffentlicht. Die Untersuchung der FTC wurde bereits vor dem Vorfall eingeleitet.
Was hat der Vorsitzende der FTC, Andrew Ferguson, über die Regulierung der Sicherheit von KI gesagt?
Ferguson sagte Fox News gegenüber, dass OpenAI und Anthropic nicht in der Lage sein sollten, "alle in Panik zu versetzen" und dann Regulierungen zu fordern, da dies die Art und Weise sei, wie Unternehmen einen "Graben um ihre Geschäfte bauen", um Wettbewerber auszuschließen.

Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.















