Die US-amerikanische Federal Trade Commission (FTC) kündigte an, verstärkt gegen Botendienste vorzugehen, die KI-gestützte Betrugssysteme einsetzen. Dies geschieht im Rahmen der neuen Strafverfolgungsmaßnahme „Operation AI Comply“.
Laut der Behörde werden auch Unternehmen, die die Manipulation von KI-Tools zur Erstellung gefälschter Bewertungen ermöglicht haben, nicht verschont bleiben.
Darüber hinaus fallen auch Unternehmen, die behaupten, mithilfe von KI den Verbrauchern zu mehr Gewinn verhelfen zu können, unter diese Kategorie und müssen mit dem Zorn der Behörde rechnen.
„Der Einsatz von KI-Tools, um Menschen zu täuschen, irrezuführen oder zu betrügen, ist illegal“, sagte die FTC-Vorsitzende Lina M. Khan. „Die Durchsetzungsmaßnahmen der FTC machen deutlich, dass es keine Ausnahme für KI von den geltenden Gesetzen gibt.“
Von den dreidentFirmen gaben FBA Machine, Ecommerce Empire Builders und Ascend Ecom an, dass ihre Angebote mithilfe von KI für Online-Shops passives Einkommen generieren können. Die Beschwerden der FTC werfen diesen Firmen jedoch vor, Verbraucher um Millionen von Dollar betrogen und ihre Versprechen so gut wie nie eingehalten zu haben.
DoNotPay einigt sich mit der FTC über Vorwürfe bezüglich KI-gestützter „Roboteranwälte“
Die Durchsetzungsmaßnahme betrifft auch DoNotPay, ein KI-Unternehmen, das kürzlich Aufmerksamkeittrac, weil es angeblich den weltweit ersten „Roboteranwalt“ entwickelt hat. Die FTC stellte fest, dass der Dienst, der KI nutzte, Rechtsberatung ohne menschliche Anwälte anbot und es Nutzern sogar ermöglichte, Körperverletzungsklagen einzureichen und juristische Dokumente zu erstellen.
Das Unternehmen legte jedoch keine ausreichenden Beweise dafür vor, dass die von ihm entwickelte KI so effektiv ist wie menschliches juristisches Fachwissen. Der Dienst wurde nicht umfassend getestet, und es erfolgte während des Betriebs keine Beratung durch zugelassene Anwälte. Die Einigung mit der FTC sieht eine Zahlung von 193.000 US-Dollar durch DoNotPay vor. Zusätzlich muss das Unternehmen Verbraucher, die den Dienst genutzt haben, benachrichtigen. DoNotPay darf nun keine irreführende Werbung mehr über seine Fähigkeit machen, einen solchen Dienst zu ersetzen.
In einem Beitrag auf X aus dem letzten Jahr erklärte Joshua Browder, CEO von DoNotPay, dass das Unternehmen „Drohungen von Staatsanwälten der Anwaltskammer“ und dass er im Gefängnis landen könnte, wenn er die Pläne weiterverfolgen würde, einen KI-Anwalt über eine Datenbrille vor Gericht zu präsentieren.
Rytr drohen Konsequenzen für das KI-generierte Tool für gefälschte Bewertungen
Die FTC hat auch Rytr ins Visier genommen, ein Tool, das mithilfe von KI Kundenbewertungen erstellt. Der Dienst bot die Möglichkeit, unzählige Bewertungen zu generieren, die häufig erfundene Informationen enthielten, die in keinem Zusammenhang mit den betreffenden Produkten standen. Diese gefälschten Bewertungen führten potenzielle Käufer in die Irre und verzerrten den Online-Markt.
Im Rahmen der Einigung ist es Rytr außerdem untersagt, künftig KI-generierte Bewertungsdienste anzubieten oder zu bewerben. Laut FTC soll dies dazu beitragen, das Problem gefälschter Informationen in Verbraucherbewertungen zu bekämpfen.
Unter Khans Führung konzentrierte sich die FTC auf Maßnahmen gegen Unternehmen, die KI auf irreführende Weise einsetzen. Anfang des Jahres leitete die FTC eine Untersuchung von Kooperationen zwischen führenden Technologiekonzernen und aufstrebenden Unternehmen im Bereich generativer KI ein.
