FTC verklagt Unternehmen, die KI einsetzen, um Verbraucher zu täuschen

Die Federal Trade Commission (FTC) hat angekündigt, gegen Unternehmen vorzugehen, die KI-Systeme einsetzen, um Menschen zu täuschen. Dies geschieht im Rahmen der neuen strafrechtlichen Ermittlungsaktion namens „Operation AI Comply“.

Laut der Behörde werden Unternehmen, die die Manipulation von KI-Tools zur Erstellung gefälschter Bewertungen ermöglicht haben, beispielsweise nicht verschont.

Darüber hinaus fallen auch Unternehmen in diese Kategorie, die behaupten, sie könnten Verbrauchern mit KI helfen, mehr Geld zu verdienen, und werden die Zorn der Behörde auf sich ziehen.

„Der Einsatz von KI-Tools, um Menschen zu betrügen, zu täuschen oder zu betrügen, ist illegal“, sagte die FTC-Vorsitzende Lina M. Khan. „Die Durchsetzungsmaßnahmen der FTC machen deutlich, dass es keine KI-Ausnahme von den geltenden Gesetzen gibt.“

Von den drei identifizierten Unternehmen, FBA Machine, Ecommerce Empire Builders und Ascend Ecom, gaben sie an, dass die von ihnen angebotenen Unternehmen mit Hilfe von KI passives Einkommen für Online-Shops generieren können. Die Beschwerden der FTC legen nahe, dass diese Unternehmen Verbraucher um Millionen von Dollar betrogen und die gemachten Zusagen kaum eingehalten haben.

DoNotPay vergleicht sich mit der FTC wegen KI-„Roboteranwalts“-Behauptungen

Die Durchsetzungsmaßnahme umfasst auch DoNotPay, ein KI-Unternehmen, das kürzlich Aufmerksamkeit erregt hat, weil es angeblich das erste „Robotergesetz“ der Welt geschaffen hat. Die FTC merkte an, dass der Dienst, der KI nutzte, Rechtsberatung ohne menschliche Anwälte anbot und es den Nutzern sogar ermöglichte, Strafanzeigen einzureichen und rechtliche Dokumente zu erstellen. 

Das Unternehmen lieferte jedoch nicht genügend Beweise dafür, dass die von ihm entwickelte KI genauso effektiv ist wie menschliches juristisches Wissen. Der Dienst wurde nicht vollständig getestet, und es gab keine Eingaben lizenzierter Anwälte während des Betriebs. Der Vergleich mit der FTC beinhaltet, dass DoNotPay 193.000 US-Dollar zahlt. Zusätzlich müssen sie eine Mitteilung an Verbraucher versenden, die den Dienst genutzt haben. Das Unternehmen ist nun verboten, irreführende Werbung über die Fähigkeit des Unternehmens zu machen, einen solchen Dienst zu ersetzen. 

In einem Post auf X im letzten Jahr erklärte DoNotPay-CEO Joshua Browder, dass das Unternehmen erhalten habe „Drohungen von Staatsanwaltschaften der Rechtsanwaltskammer“ und dass er ins Gefängnis kommen könnte, wenn er mit den Plänen fortfahren würde, einen KI-Anwalt über Smart Glasses vor Gericht zu präsentieren. 

Rytr sieht sich Konsequenzen für KI-generiertes Fake-Bewertungstool gegenüber

Die FTC hat sich auch gegen Rytr gewandt, ein Tool, das KI nutzt, um Kundenbewertungen zu erstellen. Der Dienst bot die Möglichkeit, eine endlose Anzahl von Bewertungen zu generieren, die häufig erfundene Informationen enthielten, die nichts mit den betreffenden Produkten zu tun hatten. Diese gefälschten Bewertungen täuschten potenzielle Käufer und verzerrten den Online-Marktplatz.

Im Rahmen des Vergleichs ist Rytr auch für die Zukunft verboten, KI-geschriebene Bewertungsangebote anzubieten oder zu werben. Laut FTC wird dies dazu beitragen, das Problem falscher Informationen in Kundenbewertungen zu bekämpfen.

Unter Khans Führung hat sich die FTC auf Maßnahmen gegen Unternehmen konzentriert, die KI auf irreführende Weise nutzen. Zu Beginn des Jahres leitete die FTC eine Untersuchung der Zusammenarbeit zwischen führenden Tech-Konzernen und wachsenden generativen KI-Unternehmen ein.