La Commission fédérale du commerce (FTC) a annoncé qu'elle intensifiait sa lutte contre les entreprises de services à la demande qui utilisent des techniques d'intelligence artificielle pour tromper les consommateurs. Cette action s'inscrit dans le cadre de la nouvelle opération de répression baptisée « Opération Compatibilité AI ».
Selon l'agence, les entreprises qui ont permis la manipulation d'outils d'IA pour créer de faux avis, par exemple, ne seront pas épargnées.
De plus, les entreprises qui prétendent pouvoir utiliser l'IA pour aider les consommateurs à gagner plus d'argent entreront également dans cette catégorie et s'exposeront aux foudres de l'agence.
« Utiliser des outils d’IA pour tromper, induire en erreur ou escroquer des personnes est illégal », a déclaré Lina M. Khan, présidente de la FTC. « Les mesures d’application de la loi prises par la FTC démontrent clairement qu’aucune exemption n’est prévue par la législation en vigueur concernant l’IA. »
Parmi les trois entreprisesdent, FBA Machine, Ecommerce Empire Builders et Ascend Ecom affirmaient que leurs services permettaient de générer des revenus passifs grâce à l'intelligence artificielle pour les boutiques en ligne. La FTC a déposé plainte contre ces entreprises, les accusant d'avoir escroqué des consommateurs de millions de dollars et de n'avoir quasiment jamais tenu leurs engagements.
DoNotPay conclut un accord avec la FTC concernant les allégations relatives aux « avocats robots » dotés d'intelligence artificielle
L'action coercitive vise également DoNotPay, une entreprise spécialisée dans l'intelligence artificielle qui a récemmenttracparler d'elle pour avoir créé ce qu'elle appelle le premier « avocat robot » au monde. La FTC a noté que ce service, utilisant l'IA, offrait des conseils juridiques sans avocats humains et permettait même aux utilisateurs de déposer des plaintes pour agression et de produire des documents juridiques.
Cependant, l'entreprise n'a pas fourni de preuves suffisantes que l'IA qu'elle a créée soit aussi efficace que les connaissances juridiques humaines. Le service n'a pas été testé de manière exhaustive et aucun avocat agréé n'a contribué à son fonctionnement. L'accord conclu avec la FTC prévoit le versement par DoNotPay de 193 000 $. De plus, l'entreprise devra envoyer un avis aux consommateurs ayant utilisé le service. Il lui est désormais interdit de diffuser des publicités trompeuses concernant sa capacité à remplacer un tel service.
Dans un message publié sur X l'année dernière, Joshua Browder, PDG de DoNotPay, a déclaré que la société avait reçu des « menaces de la part des procureurs du barreau de l'État » et qu'il pourrait finir en prison s'il poursuivait son projet de présenter un avocat IA via des lunettes intelligentes au tribunal.
Rytr fait face aux conséquences de son outil de faux avis généré par IA
La FTC s'est également attaquée à Rytr, un outil utilisant l'IA pour générer des avis de consommateurs. Ce service permettait de produire un nombre illimité d'avis, contenant souvent des informations inventées sans rapport avec les produits concernés. Ces faux avis ont induit en erreur les acheteurs potentiels et faussé le marché en ligne.
Dans le cadre de cet accord, Rytr s'est également vu interdire de proposer ou de faire la publicité de services d'avis rédigés par IA. Selon la FTC, cette mesure contribuera à lutter contre le problème des fausses informations dans les avis de consommateurs.
Sous la direction de Khan, la FTC s'est concentrée sur les actions visant les entreprises qui utilisent l'IA de manière trompeuse. En début d'année, la FTC a lancé une enquête sur les collaborations entre les grandes entreprises technologiques et les sociétés émergentes spécialisées dans l'IA générative.
