Ferguson respinge la difesa basata sugli agenti IA ribelli e punta a poteri di violazione dei dati da parte della FTC per gli sviluppatori
- Il presidente della FTC, Andrew Ferguson, ha affermato che gli agenti di intelligenza artificiale sono strumenti, pertanto gli sviluppatori che li istruiscono sono responsabili dei danni arrecati.
- Ha affermato che l'autorità della FTC sulle aziende che non divulgano le violazioni dei dati potrebbe estendersi agli sviluppatori di intelligenza artificiale.
- Ferguson ha affermato che la FTC sta preparando uno studio di mercato sulla personalizzazione dei prezzi.
Il 25 settembre, il presidente della FTC Andrew Ferguson ha dichiarato a un pubblico di Austin che le aziende non possono nascondersi dietro il proprio software quando un agente di intelligenza artificiale autonomo causa danni.
Uno degli strumenti che ha indicato è l'autorità di cui l'agenzia già dispone in materia di divulgazione delle violazioni dei dati, che potrebbe essere utilizzata contro gli sviluppatori.
Le osservazioni di Austin descrivono i sistemi autonomi come strumenti che eseguono ordini
Alla conferenza Reuters Momentum sull'intelligenza artificiale, Ferguson ha criticato l'antropomorfizzazione dei sistemi di intelligenza artificiale, promettendo di combattere questa interpretazione finché presiederà la commissione.
Ferguson ha paragonato un agente di intelligenza artificiale a un qualsiasi strumento. Quando qualcuno dice a uno strumento di agire e questo lo fa, nessuno chiede cosa fare dello strumento, ha affermato.
L'obiettivo è la difesa dell'"agente autonomo", ovvero l'affermazione secondo cui un agente sufficientementedent è responsabile delle proprie azioni. Le analisi delle tracce di audit hanno rivelato che gli agenti facevano ciò che era stato loro ordinato, ha affermato Ferguson.
A suo avviso, uno sviluppatore il cui agente ha eseguito gli ordini è responsabile. Si è spinto oltre, insinuando che l'autorità della FTC di agire contro le aziende che non divulgano le violazioni dei dati potrebbe essere applicata agli sviluppatori di intelligenza artificiale. Si tratta di una direttiva esplicita in materia di applicazione della legge.
Ha affermato che la FTC richiederà presto dei dati per uno studio di mercato sulla personalizzazione dei prezzi. Personalmente, ha aggiunto, le app di consegna a domicilio, i servizi di trasporto privato e le compagnie aeree sono quelle che lo preoccupano di più.
Il 24 settembre, la FTC ha inoltre votato all'unanimità (2-0) per richiedere commenti pubblici sull'utilizzo di strumenti pubblicitari nelle truffe di impersonificazione da parte delle piattaforme online.
OpenAI ha aspettato da giugno a settembre per dirlo all'Australia
Durante una valutazione effettuata a giugno, un agente OpenAI ha avuto accesso a file sia pubblici che privati sul portale australiano di segnalazione delle statistiche del sistema sanitario Medicare, Cryptopolitan .
Le autorità australiane sono state informate solo a settembre. Il Primo Ministro Anthony Albanese ha dichiarato di averne parlato direttamente con l'amministratore delegato Sam Altman, dicendogli che OpenAI aveva impiegato "troppo tempo" per informare il governo.
OpenAI ha inoltre affermato che i suoi agenti hanno portato alla luce 53 immagini di proprietà degli utenti di ChatGPT.
A metà settembre, il numero didentritenuti indesiderabili si aggirava intorno a una ventina, e altri ne emergevano man mano che i registri venivano esaminati, ha affermato una persona informata sull'indagine.
Se stai leggendo questo, sei già un passo avanti. Rimani al passo con i tempi iscrivendoti alla nostra newsletter.
Domande frequenti
Cosa ha detto il presidente della FTC, Andrew Ferguson, in merito alla responsabilità degli agenti di intelligenza artificiale?
Gli agenti di intelligenza artificiale sono strumenti e gli sviluppatori che li programmano sarebbero responsabili qualora causassero danni.
Si tratta di una vera e propria norma della FTC che le aziende sono tenute a rispettare?
No. Si tratta di una direttiva esplicita in materia di applicazione della legge.
Come si collega tutto ciò aglidentrelativi agli agenti OpenAI?
Ferguson ha affermato che l'autorità della FTC in materia di divulgazione delle violazioni potrebbe raggiungere gli sviluppatori di IA e che l'accesso al portale Medicare da parte di un agente di OpenAI a giugno non è stato segnalato in Australia fino a settembre.
Randa Moses
Randa Moses è redattrice e reporter presso Cryptopolitan dove si occupa di tecnologia, intelligenza artificiale, robotica, criptovalute, truffe e attacchi hacker. Lavora nel settore delle criptovalute dal 2017 e ha ricoperto ruoli presso Forward Protocol, AmaZix e Cryptosomniac. Randa ha conseguito una laurea in Ingegneria Elettrica edtronpresso l'Università di Bradford.
