La FTC cita in giudizio aziende che utilizzano l'IA per ingannare i consumatori

La Federal Trade Commission (FTC) ha annunciato che sta intensificando la lotta contro le aziende che utilizzano schemi basati sull'IA per ingannare le persone. Questo viene fatto nell'ambito della nuova operazione di applicazione della legge nota come Operation AI Comply.

Secondo l'agenzia, le aziende che hanno consentito la manipolazione degli strumenti di IA per creare recensioni false, ad esempio, non saranno risparmiate.

Inoltre, le aziende che affermano di poter utilizzare l'IA per aiutare i consumatori a guadagnare più denaro rientreranno anche in questa categoria e affronteranno la ira dell'agenzia.

«Utilizzare strumenti di IA per ingannare, fuorviare o defraudare le persone è illegale», ha dichiarato la presidente della FTC Lina M. Khan. «Le azioni di enforcement della FTC chiariscono che non esiste alcuna esenzione dall'IA rispetto alle leggi vigenti.»

Dei tre identificati, FBA Machine, Ecommerce Empire Builders e Ascend Ecom hanno dichiarato che le aziende che offrono possono generare redditi passivi con l'aiuto dell'IA per gli store online. Le denunce della FTC sostengono che queste aziende hanno truffato i consumatori per milioni di dollari e hanno quasi mai rispettato gli impegni assunti.

DoNotPay si accorda con la FTC per le pretese sull'«avvocato robot» basato sull'IA

L'azione di enforcement include anche DoNotPay, un'azienda di IA che ha recentemente attirato l'attenzione per aver creato, secondo quanto riportato, il primo «avvocato robot» del mondo. La FTC ha notato che il servizio, che utilizzava l'IA, offriva consulenza legale senza avvocati umani e permetteva persino agli utenti di intentare cause per aggressione e produrre documenti legali. 

Tuttavia, l'azienda non ha fornito prove sufficienti che l'IA creata dall'azienda sia efficace quanto la conoscenza legale umana. Il servizio non è stato testato completamente e non c'è stato alcun input da parte di avvocati abilitati durante il suo utilizzo. L'accordo con la FTC prevede che DoNotPay paghi 193.000 dollari. Inoltre, dovranno inviare un avviso ai consumatori che hanno utilizzato il servizio. All'azienda è ora vietato fare pubblicità ingannevoli sulla capacità dell'azienda di sostituire tale servizio. 

In un post su X lo scorso anno, l'CEO di DoNotPay Joshua Browder ha dichiarato che l'azienda aveva ricevuto «minacce dai procuratori degli Ordini degli Avvocati di Stato» e che potrebbe finire in prigione se avesse continuato con i piani di presentare un avvocato IA tramite occhiali intelligenti in tribunale. 

Rytr affronta le conseguenze per lo strumento di recensioni false generate dall'IA

La FTC ha anche agito contro Rytr, uno strumento che utilizza l'IA per creare recensioni dei consumatori. Il servizio offriva la possibilità di generare un numero infinito di recensioni, che spesso contenevano informazioni inventate non collegate ai prodotti in questione. Queste recensioni false hanno ingannato i potenziali acquirenti e distorto il mercato online.

Come parte dell'accordo, a Rytr è anche vietato offrire o pubblicizzare in futuro qualsiasi servizio di recensioni scritto dall'IA. Secondo la FTC, questo aiuterà a combattere il problema delle informazioni false nelle recensioni dei consumatori.

Sotto la guida di Khan, la FTC si è concentrata su azioni contro le aziende che utilizzano l'IA in modi ingannevoli. All'inizio dell'anno, la FTC ha avviato un'indagine sulle collaborazioni tra le principali aziende tecnologiche e le crescenti aziende di IA generativa.