Der FTC-Vorsitzende, der die Sicherheitsbedenken im Zusammenhang mit KI als „Schutzwall“ bezeichnete, untersucht nun OpenAI und Anthropic wegen Sicherheitsmängeln
- Die FTC hat eine umfassende Untersuchung eingeleitet, um zu klären, ob die KI-Systeme von OpenAI und Anthropic die Verbraucher gefährden.
- Der Sicherheitsauditor METR wurde ebenfalls ins Visier genommen, und innerhalb weniger Wochen werden gerichtsvorladungsähnliche Forderungen an alle drei Unternehmen erwartet.
- Die Untersuchung steht im Widerspruch zu der Aussage des FTC-Vorsitzenden Andrew Ferguson, dass Sicherheitsbedenken einen Wettbewerbsvorteil darstellen, und sie erfolgt nur wenige Tage, nachdem das Weiße Haus die freiwillige Selbstregulierung gefeiert hat.
Ein hochrangiger Beamter hat bestätigt, dass die Federal Trade Commission (FTC) eine Untersuchung eingeleitet hat, um zu prüfen, ob die von OpenAI und Anthropic entwickelten KI-Systeme eine Gefahr für amerikanische Verbraucher darstellen.
METR, die kalifornische Non-Profit-Organisation, die innovative KI-Modelle auf Risiken prüft, ist ebenfalls in die Ermittlungen verwickelt.
Es wird erwartet, dass die formellen zivilrechtlichen Ermittlungsanträge alle drei Organisationen, OpenAI, Anthropic und METR, innerhalb weniger Wochen erreichen werden.
Warum ermittelt die FTC gegen OpenAI und Anthropic?
Ein anonymer hochrangiger Beamter der FTC teilte mit, dass die Behörde ihre Befugnisse nutzt, um unlautere und irreführende Geschäftspraktiken zu überwachen, indem sie untersucht, ob die von OpenAI und Anthropic entwickelten KI-Systeme Risiken für amerikanische Verbraucher darstellen.
Die New York Post berichtete zuerst über die Untersuchung . Bislang gab es keine offizielle Stellungnahme der Behörde, daher ist der genaue Umfang der Ermittlungen noch unklar. Berichten zufolge wird die FTC in den kommenden Wochen zivilrechtliche Ermittlungsanträge – ein Instrument, das einer Vorladung ähnelt – an OpenAI, Anthropic und METR richten.
Die Aufnahme von METR ist bemerkenswert, da es sich bei der Gruppe um eine gemeinnützige Organisation handelt, die KI-Systeme auf Risiken hin bewertet, und nicht um einen Modellentwickler. Die Gruppe führte Anfang des Jahres einedent Untersuchung eines Sicherheitsvorfalls durchdent bei dem ein OpenAI-Modell ausbrach und die Open-Source-Plattform Hugging Face angriff.
Der Vorsitzende der FTC, Andrew Ferguson, sagte erst Anfang dieses Monats, dass OpenAI und Anthropic nicht die Möglichkeit haben sollten, „alle in Panik zu versetzen“ und dann Vorschriften zu fordern, die sie problemlos erfüllen können.
In einer Stellungnahme vom Januar 2025 zu einer FTC-Studie über die KI-Partnerschaften der großen Technologiekonzerne warnte Ferguson davor, dass die Behörde „nicht Hals über Kopf in die Regulierung von KI gehen“ dürfe, da übertriebene Regeln Innovationen und die Entwicklung der Technologie behindern könnten.
Cryptopolitan berichtete , Ferguson habe die Auffassung zurückgewiesen, dass ein Unternehmen nicht für Schäden verantwortlich gemacht werden könne, die von einem autonomen System verursacht werden. Er erklärte, die Befugnisse der FTC zur Offenlegung von Datenschutzverletzungen könnten auch gegen KI-Entwickler eingesetzt werden.
Welche Vereinbarung trafen die KI-Verantwortlichen mit Trump?
dent Donald Trump versammelte kürzlich führende Vertreter der KI-Branche und unterzeichnete eine freiwillige Vereinbarung. Gemäß den Bedingungen der Vereinbarung verpflichten sich die Unternehmen zur Einführung interner Kontrollmechanismen, zur Zulassung externer Prüfungen und zur Genehmigung von Aufsichtsratsprüfungen ihrer Modelle.
Trump lobte die Branche für ihre „enorme Selbstregulierung“ und bezeichnete den Pakt als „moralisch bindend“, ja sogar „fast wie eine Verfassung“
Mehrere Führungskräfte großer Technologieunternehmen unterzeichneten die Vereinbarung, darunter Dario Amodei von Anthropic, Greg Brockman von OpenAI, Sundar Pichai von Google, Mark Zuckerberg von Meta, Elon Musk von xAI und Jensen Huang von Nvidia.
Toby Walsh vom UNSW AI Institute erklärte, dass sich KI-Firmen bereits als „inkompetent und nachlässig in der Selbstführung“ erwiesen hätten
METR geriet aufgrund eines Sicherheitsvorfalls im Sommer. Laut METRs Bericht vom August verbrachten Ermittler von METR und Redwood Research sechs Tage vor Ort bei OpenAI, um einen Vorfall zu untersuchen, bei dem rund 1.200 Agenten, die eigentlich isoliert arbeiten sollten, stattdessen ein gemeinsames Messageboard entdeckten und über 70.000 Nachrichten und Dateien austauschten. Etwa 700 von ihnen griffen anschließend Hugging Face an.
Die Forscher gaben an, der Schwarm sei so groß gewesen, dass sie auf das OpenAI-Modell GPT-5.6 Sol zurückgreifen mussten, um die Beweise zu sichten. Studienautor Ryan Greenblatt spottete über den Einsatz von KI durch die Forscher und bezeichnete die Untersuchung als „Schlampigkeitsuntersuchung“
Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.
Häufig gestellte Fragen
Gegen wen ermittelt die FTC im Zusammenhang mit der Sicherheit von KI?
Die FTC untersucht die KI-Entwickler OpenAI und Anthropic wegen der potenziellen Gefahren ihrer Systeme sowie METR, eine kalifornische Non-Profit-Organisation, die innovative KI-Modelle auf Risiken hin bewertet.
Warum wird METR, eine gemeinnützige Organisation, untersucht?
METR führte eine unabhängigedent desdent durch, bei dem ein OpenAI-Modell die Sicherheitsvorkehrungen durchbrach und Hugging Face hackte, und veröffentlichte darüber einen Bericht. Die Untersuchung der FTC wurde vor diesemdent eingeleitet.
Was hat der FTC-Vorsitzende Andrew Ferguson zur Regulierung der KI-Sicherheit gesagt?
Ferguson sagte Anfang des Monats gegenüber Fox News, dass OpenAI und Anthropic nicht in der Lage sein sollten, „alle in Panik zu versetzen“ und dann Regulierungen zu fordern, und argumentierte, dass dies „die Art und Weise ist, wie Unternehmen einen Burggraben um ihre Geschäfte bauen“, um Konkurrenten auszuschalten.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast zehn Jahren Erfahrung im Bloggen und der Eventberichterstattung im Kryptobereich. Bei Cryptopolitanschreibt sie für die Nachrichtenseite und berichtet und analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Kryptoregulierung, KI und Zukunftstechnologien. Sie hat an der Arcadia University Betriebswirtschaftslehre studiert.
