La FTC demanda a empresas que usan IA para engañar a los consumidores

La Comisión Federal de Comercio (FTC) anunció que está endureciendo la represión contra empresas que utilizan esquemas de IA para engañar al público. Esto se lleva a cabo bajo la nueva operación de aplicación de la ley conocida como Operación AI Comply.

Según la agencia, las empresas que han permitido la manipulación de herramientas de IA para crear reseñas falsas, por ejemplo, no serán eximidas.

Además de eso, las empresas que afirman poder usar la IA para ayudar a los consumidores a ganar más dinero también caerán bajo esta categoría y enfrentarán la ira de la agencia.

“Usar herramientas de IA para engañar, inducir a error o defraudar a las personas es ilegal”, dijo la presidenta de la FTC, Lina M. Khan. “Las acciones de aplicación de la ley de la FTC dejan claro que no hay exención de IA de las leyes vigentes.”

De las tres empresas identificadas, FBA Machine, Ecommerce Empire Builders y Ascend Ecom afirmaron que los negocios que ofrecen pueden generar ingresos pasivos con la ayuda de la IA para tiendas en línea. Las quejas de la FTC alegan que estos negocios estafaron a los consumidores por millones de dólares y rara vez cumplieron con los compromisos realizados.

DoNotPay acuerda con la FTC sobre las afirmaciones de su “abogado robot” de IA

La acción de aplicación de la ley también incluye a DoNotPay, una empresa de IA que recientemente ha atraído la atención por supuestamente crear lo que llama el primer “abogado robot” del mundo. La FTC señaló que el servicio, que utilizaba IA, ofrecía asesoramiento legal sin abogados humanos e incluso permitía a los usuarios presentar demandas por agresión y producir documentos legales. 

Sin embargo, la empresa no proporcionó evidencia suficiente de que la IA creada por la empresa sea tan efectiva como el conocimiento legal humano. El servicio no fue completamente probado, y no hubo participación de abogados licenciados mientras se ejecutaba. El acuerdo de la FTC implica que DoNotPay pague 193.000 dólares. Además, deben enviar un aviso a los consumidores que han utilizado el servicio. La empresa está ahora prohibida de hacer publicidad engañosa sobre la capacidad de la empresa para reemplazar dicho servicio. 

En una publicación en X el año pasado, el CEO de DoNotPay, Joshua Browder, declaró que la empresa había recibido “amenazas de fiscales de los Colegios de Abogados estatales” y que él podría terminar en la cárcel si continuaba con los planes de presentar un abogado de IA a través de gafas inteligentes en el tribunal. 

Rytr enfrenta consecuencias por su herramienta de reseñas falsas generadas por IA

La FTC también ha actuado contra Rytr, una herramienta que utiliza IA para crear reseñas de consumidores. El servicio ofrecía la posibilidad de generar un número infinito de reseñas, que frecuentemente contenían información inventada no conectada con los productos en cuestión. Estas reseñas falsas engañaron a los compradores potenciales y distorsionaron el mercado en línea.

Como parte del acuerdo, a Rytr también se le prohíbe ofrecer o publicitar cualquier servicio de reseñas escritas por IA en el futuro. Según la FTC, esto ayudará a combatir el problema de la información falsa en las reseñas de los consumidores.

Bajo el liderazgo de Khan, la FTC se ha centrado en acciones contra empresas que utilizan la IA de manera engañosa. A principios de este año, la FTC inició una investigación sobre colaboraciones entre corporaciones tecnológicas líderes y empresas de IA generativa en crecimiento.