La FTC fa causa alle aziende che utilizzano l'intelligenza artificiale per ingannare i consumatori

La Federal Trade Commission (FTC) ha annunciato che sta prendendo provvedimenti severi nei confronti delle società di servizi di commissione che utilizzano truffe basate sull'intelligenza artificiale per ingannare i cittadini. L'operazione è stata avviata nell'ambito della nuova operazione di contrasto alle violazioni dei diritti umani, denominata Operazione AI Comply.

Secondo l'agenzia, le aziende che hanno consentito la manipolazione di strumenti di intelligenza artificiale per creare false recensioni, ad esempio, non saranno risparmiate.

Oltre a ciò, anche le aziende che sostengono di poter utilizzare l'intelligenza artificiale per aiutare i consumatori a guadagnare di più rientreranno in questa categoria e dovranno affrontare l'ira dell'agenzia.

"L'uso di strumenti di intelligenza artificiale per ingannare, fuorviare o frodare le persone è illegale", ha affermato la presidente della FTC, Lina M. Khan. "Le misure di controllo della FTC chiariscono che non esiste alcuna esenzione per l'intelligenza artificiale dalle leggi vigenti"

Delle tre aziendedent, FBA Machine, Ecommerce Empire Builders e Ascend Ecom hanno dichiarato che le attività da loro offerte possono generare reddito passivo con l'aiuto dell'intelligenza artificiale per i negozi online. Le denunce della FTC sostengono che queste aziende hanno truffato i consumatori sottraendo loro milioni di dollari e non hanno quasi mai rispettato gli impegni presi.

DoNotPay raggiunge un accordo con la FTC sulle accuse di intelligenza artificiale come “avvocato robot”

L'azione di contrasto include anche DoNotPay, un'azienda di intelligenza artificiale che ha recentementetracl'attenzione per aver creato quello che definisce il primo "avvocato robot" al mondo. La FTC ha osservato che il servizio, che utilizzava l'intelligenza artificiale, offriva consulenza legale senza avvocati umani e consentiva persino agli utenti di intentare cause per aggressione e produrre documenti legali. 

Tuttavia, l'azienda non ha fornito prove sufficienti che l'intelligenza artificiale da essa creata sia efficace quanto la conoscenza giuridica umana. Il servizio non è stato completamente testato e non è stato fornito alcun contributo da parte di avvocati abilitati durante la sua esecuzione. L'accordo della FTC prevede il pagamento di 193.000 dollari a DoNotPay. Inoltre, l'azienda è tenuta a inviare un avviso ai consumatori che hanno utilizzato il servizio. All'azienda è ora vietato fare pubblicità ingannevole sulla propria capacità di sostituire tale servizio. 

In un post pubblicato su X lo scorso anno, il CEO di DoNotPay, Joshua Browder, ha dichiarato che l'azienda aveva ricevuto "minacce dai procuratori dell'Ordine degli avvocati" e che avrebbe potuto finire in prigione se avesse portato avanti i piani per presentare in tribunale un avvocato basato sull'intelligenza artificiale tramite occhiali intelligenti. 

Rytr rischia le conseguenze per uno strumento di recensioni false generato dall'intelligenza artificiale

La FTC ha anche perseguitato Rytr, uno strumento che utilizza l'intelligenza artificiale per creare recensioni dei consumatori. Il servizio offriva la possibilità di generare un numero infinito di recensioni, che spesso contenevano informazioni inventate e non correlate ai prodotti in questione. Queste recensioni false ingannavano i potenziali acquirenti e distorcevano il mercato online.

Come parte dell'accordo, a Rytr verrà anche vietato di offrire o pubblicizzare in futuro servizi di recensioni basate sull'intelligenza artificiale. Secondo la FTC, questo contribuirà a contrastare il problema delle informazioni false nelle recensioni dei consumatori.

Sotto la guida di Khan, la FTC si è concentrata su azioni contro le aziende che utilizzano l'intelligenza artificiale in modo ingannevole. All'inizio dell'anno, la FTC ha avviato un'indagine sulle collaborazioni tra importanti aziende tecnologiche e aziende emergenti nel campo dell'intelligenza artificiale generativa.