Perché la sorveglianza etica dell'IA non è fattibile, come mettere il rossetto a un maiale?

Riepilogo TL;DR

• Rumman Chowdhury ritiene che la sorveglianza etica dell'IA non sia fattibile, affermando: “Non possiamo mettere il rossetto a un maiale.”
• Sostiene la creazione di un consiglio globale di governance esterna per supervisionare le tecnologie IA e affrontare questioni come il capitalismo della sorveglianza.
• Chowdhury sottolinea l'importanza della responsabilità e della collaborazione nella governance dell'IA, avvertendo contro un'eccessiva regolamentazione mentre si affrontano le sfide etiche.

In una recente intervista, Rumman Chowdhury, ex direttrice dell'etica, della trasparenza e della responsabilità nell'apprendimento automatico presso Twitter, ha espresso il suo scetticismo riguardo alla possibilità di una sorveglianza artificiale (IA) etica. Parlando presso la Facoltà di Scienze Sociali della New York University, Chowdhury ha dichiarato: “Non possiamo mettere il rossetto a un maiale. Non credo che una sorveglianza etica possa esistere.”

Chowdhury, nota per il suo lavoro nell'etica dell'IA, ha evidenziato le sue preoccupazioni riguardo all'ascesa del capitalismo della sorveglianza, che ritiene sia intrinsecamente razzista e non dovrebbe essere sostenuta. In un articolo di opinione per Wired, ha sostenuto la creazione di un consiglio globale di governance esterna per supervisionare le tecnologie IA, affrontando questioni come il capitalismo della sorveglianza, la disruption del lavoro e la disinformazione nucleare. Chowdhury ha sottolineato la necessità di un consiglio diversificato che non sia legato a una singola istituzione e che rappresenti una prospettiva globale.

Sfide di responsabilità e regolamentazione nel settore dell'IA

Secondo Chowdhury, la responsabilità è un aspetto cruciale che spesso manca nel settore dell'IA. Ha sottolineato che l'analisi dei rischi interni all'interno delle aziende tende a trascurare le considerazioni morali. Quando il rischio di fallimento o di danno reputazionale diventa significativo, ha notato, le organizzazioni spesso piegano le regole a proprio favore. Chowdhury crede che affrontare queste sfide richieda uno sforzo collettivo, che coinvolga vari stakeholder e una cooperazione su scala globale.

Pur riconoscendo che la regolamentazione è necessaria, Chowdhury ha avvertito contro un'eccessiva regolamentazione, che potrebbe portare i modelli a correggersi eccessivamente e a non affrontare le questioni sottostanti. Ha sottolineato la natura complessa della definizione di ciò che è tossico o odioso, affermando che si tratta di un percorso continuo che richiede valutazione e adattamento continui.

Rumman Chowdhury ritiene che la tecnologia non dovrebbe distaccarsi dall'umanità

Il lavoro di Chowdhury mira a colmare il divario tra tecnologi e decisori politici, sostenendo una migliore comprensione dell'impatto umano della tecnologia. Crede che la tecnologia non dovrebbe distaccarsi dall'umanità, ma dovrebbe invece essere sfruttata per affrontare le debolezze umane e migliorare la società.

Rumman Chowdhury, una figura di spicco nel campo dell'etica dell'IA, è sempre stata affascinata dalla complessità e dall'imprevedibilità del comportamento umano. Durante i suoi studi di laurea in scienze politiche al MIT, si è resa conto del potenziale per utilizzare modelli e dati in modo più efficace nelle organizzazioni non profit. Questo l'ha portata a conseguire un master in metodi quantitativi alla Columbia University, dove ha ulteriormente affinato le sue competenze.

Il lavoro di Chowdhury l'ha portata in vari luoghi in tutto il mondo nel solo mese passato. Dalla Spagna a San Francisco, da Boston a New York, e ai prossimi discorsi a Vienna e Pittsburgh, è attivamente impegnata ad affrontare questioni urgenti relative all'IA, come la cybersecurity, la disinformazione nucleare e le piattaforme di apprendimento linguistico come Duolingo.

Sfruttare le strutture di incentivo e decentralizzare il potere.

Al cuore dell'approccio di Chowdhury risiede un dettato semplice ma potente: ascoltare, comunicare, collaborare. Tuttavia, riconosce che anche quando i leader del settore esprimono il loro impegno a prevenire i danni dell'IA, può esserci spesso una discrepanza tra parole e azioni. Osserva che durante i periodi di maggiore scrutinio, alcune entità possono chiedere regolamentazione mentre contemporaneamente impiegano tattiche di lobbying per ostacolare l'approvazione delle leggi regolamentari.

L'approccio di Chowdhury all'etica e alla governance dell'IA si basa sulla comprensione che le persone, a differenza delle macchine, hanno motivazioni e priorità diverse. Effettuare un cambiamento significativo richiede lo sfruttamento delle strutture di incentivo e la decentralizzazione del potere. Sfida la nozione di una singola narrazione eroica e sottolinea l'importanza della collaborazione e del processo decisionale collettivo nel plasmare il futuro dell'IA.