La FTC poursuit des entreprises utilisant l'IA pour tromper les consommateurs

La Federal Trade Commission (FTC) a annoncé qu'elle s'attaque aux entreprises qui utilisent des schémas IA pour tromper les gens. Cela se fait dans le cadre d'une nouvelle opération d'application de la loi appelée Operation AI Comply.

Selon l'agence, les entreprises qui ont permis la manipulation d'outils IA pour créer de faux avis, par exemple, ne seront pas épargnées.

De plus, les entreprises qui prétendent pouvoir utiliser l'IA pour aider les consommateurs à gagner plus d'argent tomberont également sous cette catégorie et feront face à la colère de l'agence.

« Utiliser des outils IA pour tromper, induire en erreur ou escroquer les gens est illégal », a déclaré la présidente de la FTC, Lina M. Khan. « Les actions en justice de la FTC montrent clairement qu'il n'y a pas d'exemption IA pour les lois en vigueur. »

Sur les trois entreprises identifiées, FBA Machine, Ecommerce Empire Builders et Ascend Ecom ont déclaré que les entreprises qu'elles proposent peuvent générer des revenus passifs avec l'aide de l'IA pour les magasins en ligne. Les plaintes de la FTC allèguent que ces entreprises ont escroqué des millions de dollars aux consommateurs et ont rarement tenu leurs engagements.

DoNotPay conclut un accord avec la FTC sur les allégations de « robot avocat » IA

L'action en justice inclut également DoNotPay, une entreprise IA qui a récemment attiré l'attention pour avoir créé, selon ses dires, le premier « robot avocat » au monde. La FTC a noté que le service, qui utilisait l'IA, offrait des conseils juridiques sans avocats humains et permettait même aux utilisateurs de déposer des poursuites pour agression et de produire des documents juridiques. 

Cependant, l'entreprise n'a pas fourni de preuves suffisantes que l'IA créée par l'entreprise est aussi efficace que les connaissances juridiques humaines. Le service n'a pas été entièrement testé, et il n'y avait aucun avis d'avocats licenciés lors de son utilisation. L'accord de la FTC implique que DoNotPay paie 193 000 dollars. De plus, ils doivent envoyer un avis aux consommateurs qui ont utilisé le service. L'entreprise est désormais interdite de faire de la publicité trompeuse sur la capacité de l'entreprise à remplacer un tel service. 

Dans un post sur X l'année dernière, le PDG de DoNotPay, Joshua Browder, a déclaré que l'entreprise avait reçu « des menaces des procureurs des Barreaux d'État » et qu'il pourrait finir en prison s'il allait plus loin avec ses plans de présenter un avocat IA via des lunettes intelligentes au tribunal. 

Rytr fait face aux conséquences pour son outil de faux avis générés par l'IA

La FTC a également visé Rytr, un outil qui utilise l'IA pour créer des avis consommateurs. Le service offrait la possibilité de générer un nombre illimité d'avis, qui contenaient souvent des informations inventées sans lien avec les produits en question. Ces faux avis ont induit en erreur les acheteurs potentiels et faussé le marché en ligne.

Dans le cadre de l'accord, Rytr est également interdit d'offrir ou de publiciser des services d'avis écrits par l'IA à l'avenir. Selon la FTC, cela aidera à combattre le problème des informations fausses dans les avis consommateurs.

Sous la direction de Khan, la FTC s'est concentrée sur des actions contre les entreprises qui utilisent l'IA de manière trompeuse. Au début de l'année, la FTC a lancé une enquête sur les collaborations entre les grandes entreprises technologiques et les entreprises émergentes d'IA générative.