La FTC demanda a empresas que utilizan IA para engañar a los consumidores

La Comisión Federal de Comercio (FTC) anunció que está tomando medidas enérgicas contra las empresas de recados que utilizan estrategias de inteligencia artificial para engañar a los usuarios. Esto se lleva a cabo en el marco de la nueva operación policial conocida como Operación AI Comply.

Según la agencia, las empresas que hayan permitido la manipulación de herramientas de IA para crear reseñas falsas, por ejemplo, no se salvarán.

Además de eso, las empresas que afirman que pueden usar IA para ayudar a los consumidores a ganar más dinero también caerán en esta categoría y enfrentarán la ira de la agencia.

“Usar herramientas de IA para engañar, confundir o defraudar a las personas es ilegal”, declaró Lina M. Khan, presidenta de la FTC. “Las medidas de cumplimiento de la FTC dejan claro que la IA no está exenta de las leyes vigentes”

De las tres empresasdent, FBA Machine, Ecommerce Empire Builders y Ascend Ecom declararon que los negocios que ofrecen pueden generar ingresos pasivos con la ayuda de IA para tiendas en línea. Las quejas de la FTC alegan que estas empresas estafaron a los consumidores por millones de dólares y casi nunca cumplieron con sus compromisos.

DoNotPay llega a un acuerdo con la FTC por acusaciones de "abogado robot" con inteligencia artificial

La medida de cumplimiento también incluye a DoNotPay, una empresa de inteligencia artificial que recientemente hatracla atención por, según se informa, crear lo que llama el primer "abogado robot" del mundo. La FTC señaló que el servicio, que utilizaba inteligencia artificial, ofrecía asesoramiento legal sin abogados humanos e incluso permitía a los usuarios presentar demandas por agresión y producir documentos legales. 

Sin embargo, la empresa no proporcionó pruebas suficientes de que la IA que creó fuera tan eficaz como el conocimiento jurídico humano. El servicio no se probó completamente y no se contó con la participación de abogados colegiados durante su funcionamiento. El acuerdo de la FTC implica que DoNotPay pague 193.000 dólares. Además, deberá enviar un aviso a los consumidores que hayan utilizado el servicio. La empresa ahora tiene prohibido realizar publicidad engañosa sobre su capacidad para reemplazar dicho servicio. 

En una publicación en X el año pasado, el director ejecutivo de DoNotPay, Joshua Browder, afirmó que la empresa había recibido "amenazas de fiscales del Colegio de Abogados del Estado" y que podría terminar en la cárcel si seguía adelante con los planes de presentar a un abogado con inteligencia artificial mediante gafas inteligentes en los tribunales. 

Rytr enfrenta consecuencias por herramienta de reseñas falsas generada por IA

La FTC también ha perseguido a Rytr, una herramienta que utiliza IA para generar reseñas de consumidores. El servicio ofrecía la posibilidad de generar un sinfín de reseñas, que a menudo contenían información falsa sin relación con los productos en cuestión. Estas reseñas falsas engañaban a los compradores potenciales y distorsionaban el mercado en línea.

Como parte del acuerdo, a Rytr también se le prohíbe ofrecer o anunciar servicios de reseñas generadas por IA en el futuro. Según la FTC, esto ayudará a combatir el problema de la información falsa en las reseñas de los consumidores.

Bajo el liderazgo de Khan, la FTC se ha centrado en acciones contra empresas que utilizan la IA de forma engañosa. A principios de año, la FTC inició una investigación sobre las colaboraciones entre importantes corporaciones tecnológicas y empresas de IA generativa en expansión.