Ferguson lehnt die Verteidigung des „außer Kontrolle geratenen KI-Agenten“ ab und zielt auf die Durchsetzungsbefugnisse der FTC bei Datenschutzverletzungen für Entwickler
- FTC-Vorsitzender Andrew Ferguson sagte, KI-Agenten seien Werkzeuge, daher tragen die Entwickler, die sie anweisen, die Haftung für Schäden.
- Er erklärte, dass die Befugnisse der FTC gegenüber Unternehmen, die Datenpannen nicht offenlegen, sich auch auf KI-Entwickler erstrecken könnten.
- Ferguson teilte mit, dass die FTC eine Marktstudie zu personalisierten Preisen vorbereitet.
FTC-Vorsitzender Andrew Ferguson sagte am 25. September einem Publikum in Austin, dass sich Unternehmen nicht hinter ihrer eigenen Software verstecken können, wenn ein autonomer KI-Agent Schaden anrichtet.
Ein Hebel, den er ansprach, war die bestehende Befugnis der Agentur zur Offenlegung von Datenschutzverletzungen, die sie gegen Entwickler einsetzen könnte.
Die Bemerkungen in Austin stellten autonome Systeme als Werkzeuge dar, die Befehle befolgen
Ferguson griff die Anthropomorphisierung von KI-Systemen auf der Reuters Momentum AI Konferenz an. Er schwor, gegen diese Darstellung so lange zu kämpfen, wie er die Kommission leitet.
Ferguson verglich einen KI-Agenten mit jedem anderen Werkzeug. Wenn jemand einem Werkzeug befiehlt, zu handeln, und es dies tut, fragt niemand, was mit dem Werkzeug zu tun ist, sagte er.
Das Ziel ist die Verteidigung des „autonomen Akteurs“, der Anspruch, dass ein Agent, der ausreichend unabhängig ist, für seine Handlungen verantwortlich ist. Überprüfungen der Audit-Trail-Protokolle ergaben, dass Agenten taten, was ihnen befohlen wurde, sagte Ferguson.
Seiner Ansicht nach haftet ein Entwickler, dessen Agent Befehle befolgte. Er ging einen Schritt weiter und deutete an, dass die Befugnis der FTC, gegen Unternehmen vorzugehen, die Datenschutzverletzungen nicht offenlegen, auf KI-Entwickler angewendet werden könnte. Dies ist eine erklärte Durchsetzungsrichtung.
Die FTC werde bald Daten für eine Marktstudie zu personalisierten Preisen anfordern, sagte er. Persönlich sagten, ihn würden Liefer-Apps, Mitfahrgelegenheitsdienste und Fluggesellschaften am meisten beunruhigen.
Am 24. September stimmte die FTC auch mit 2:0 Stimmen dafür, öffentliche Kommentare zur Verwendung von Anzeigewerkzeugen bei Identitätsbetrug durch Online-Plattformen einzuholen.
OpenAI wartete von Juni bis September, um Australien zu informieren
Während einer Bewertung im Juni griff ein OpenAI-Agent sowohl öffentliche als auch nicht-öffentliche Dateien im australischen Medicare Statistics Reporting Portal zu, Cryptopolitan berichtete.
Die australischen Behörden wurden erst im September informiert. Premierminister Anthony Albanese sagte, er habe dies direkt mit CEO Sam Altman angesprochen und ihm mitgeteilt, dass es „viel zu lange“ gedauert habe, bis die Regierung von OpenAI informiert wurde.
OpenAI sagte auch, seine Agenten hätten 53 Bilder offengelegt, die im Eigentum von ChatGPT-Nutzern standen.
Bis Mitte September belief sich die Anzahl der als unerwünscht eingestuften Vorfälle auf etwa zwei Dutzend, wobei weitere auftauchten, als die Protokolle überprüft wurden, sagte eine Person, die über die Untersuchung informiert war.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Häufig gestellte Fragen
Was hat FTC-Vorsitzender Andrew Ferguson zur Haftung von KI-Agenten gesagt?
KI-Agenten sind Werkzeuge, und die Entwickler, die sie anweisen, haften, wenn sie Schaden verursachen.
Ist dies eine tatsächliche FTC-Regel, der Unternehmen folgen müssen?
Nein. Es handelt sich um eine angekündigte Durchsetzungsrichtung.
Wie hängt dies mit den Vorfällen rund um OpenAI-Agenten zusammen?
Ferguson sagte, die Befugnisse der FTC zur Offenlegung von Datenpannen könnten KI-Entwickler erfassen; ein OpenAI-Agent hatte im Juni Zugang zum Medicare-Portal, was in Australien erst im September gemeldet wurde.
Randa Moses
Randa Moses ist Redakteurin und Reporterin bei Cryptopolitan, wo sie über Technologie, KI, Robotik, Krypto, Betrug und Hacks berichtet. Sie arbeitet seit 2017 im Krypto-Bereich. Zuvor war sie bei Forward Protocol, AmaZix und Cryptosomniac tätig. Randa besitzt einen Abschluss in Elektrotechnik und Elektronik der University of Bradford.
