Il governo del Regno Unito non è trasparente sull'uso dell'IA, afferma il Segretario alla Tecnologia

Si riporta che il governo del Regno Unito non stia elencando il proprio uso di sistemi di IA sui registri obbligatori, sollevando preoccupazioni riguardo a questioni di trasparenza.

Secondo The Guardian, il Segretario alla Tecnologia ha successivamente ammesso che i dipartimenti non sono trasparenti riguardo al loro utilizzo di IA e algoritmi, nonostante i vari dipartimenti governativi li utilizzino per diversi scopi.

I dipartimenti del governo del Regno Unito procedono "alla cieca" riguardo al loro uso dell'IA

The Guardian rivela che nessun dipartimento ha elencato l'uso dell'IA, dal momento che il governo ha indicato che sarebbe diventato obbligatorio. Ciò ha sollevato preoccupazioni secondo cui il settore pubblico sta procedendo "alla cieca".

Questo avviene mentre i dipartimenti governativi nel Regno Unito stanno già utilizzando l'IA, ad esempio per informare decisioni su tutto, dai pagamenti dei benefici all'applicazione delle norme sull'immigrazione. Secondo The Guardian, alcuni documenti mostrano che enti pubblici hanno assegnato contratti per servizi algoritmici di IA.

Ad esempio, l'organo di approvvigionamento della polizia ha recentemente messo a gara un contratto per il riconoscimento facciale del valore di 20 milioni di dollari, aumentando ulteriormente le preoccupazioni riguardo alla "sorveglianza biometrica di massa".

Tuttavia, solo nove sistemi algoritmici sono stati sottoposti a un registro pubblico, nessuno dei quali riguarda i crescenti programmi di IA utilizzati nel sistema di welfare dal Home Office o dalla polizia. A febbraio, il governo del Regno Unito ha annunciato che l'uso di registri per l'IA sarebbe diventato un "obbligo per tutti i dipartimenti governativi".

Interrogato sulla mancanza di trasparenza, il Segretario di Stato per la Scienza e la Tecnologia Peter Kyle ha ammesso che il settore pubblico "non ha preso seriamente abbastanza la necessità di essere trasparente nel modo in cui il governo utilizza gli algoritmi".

"Accetto che se il governo utilizza algoritmi per conto del pubblico, il pubblico ha il diritto di saperlo."

Kyle.

"Il pubblico deve sentirsi sicuro che gli algoritmi siano lì per servirlo e non il contrario. L'unico modo per farlo è essere trasparenti riguardo al loro utilizzo", ha aggiunto Kyle.

Il governo del Regno Unito ha ignorato gli avvertimenti

Secondo l'articolo di The Guardian, gli esperti hanno avvertito dei pericoli dell'IA se adottata acriticamente, con esempi recenti di sistemi informatici che non funzionano come previsto, tra cui il software Horizon della Post Office.

L'uso della tecnologia IA a Whitehall spazia dal sistema Copilot di Microsoft ai controlli automatizzati per frodi ed errori nel sistema dei benefici. Un recente avviso di contratto IA del Dipartimento del Lavoro e delle Pensioni (DWP) descriveva "un fungere di interesse all'interno del DWP, che riflette quello del governo più ampio e della società".

Oltre alla polizia, anche l'Home Office utilizza un sistema di enforcement immigrazione abilitato dall'IA. Questo sistema, che i critici definiscono un "robo-caseworker", è coinvolto nella formulazione di decisioni, incluso il rimpatrio delle persone nei loro paesi d'origine.

Il governo lo ha tuttavia descritto come un sistema "basato su regole" piuttosto che di IA, poiché non prevede l'apprendimento automatico dai dati. Secondo il governo, ciò apporta efficienza, sebbene un essere umano rimanga responsabile di ogni decisione.

Anche NHS England è coinvolto in un contratto da 330 milioni di sterline con Palantir per la costruzione di una nuova enorme piattaforma di dati, aumentando ulteriormente le preoccupazioni sulla privacy dei pazienti. Palantir ha dichiarato che i pazienti mantengono il controllo dei dati.

Un gruppo di campagne per i diritti alla privacy, Big Brother Watch, ha sottolineato che l'emergere del contratto per il riconoscimento facciale da parte della polizia, nonostante gli onorevoli parlamentari avvertissero della mancanza di legislazione per regolarlo, ha mostrato la mancanza di trasparenza del governo riguardo all'uso di questa tecnologia IA.

"L'uso segreto dell'IA e degli algoritmi per influenzare la vita delle persone mette a rischio i diritti sui dati di tutti", ha dichiarato Madeleine Stone, direttrice delle campagne.

"I dipartimenti governativi devono essere aperti e onesti riguardo a come utilizzano questa tecnologia."

Stone.

Anche Imogen Parker, direttrice associata presso l'ente di ricerca su dati e IA, ha espresso preoccupazione per la mancanza di trasparenza.

"La mancanza di trasparenza non tiene solo il pubblico al buio, ma significa anche che il settore pubblico procede alla cieca nell'adozione dell'IA."

Parker.

"Il mancato pubblicazione dei registri di trasparenza algoritmica limita la capacità del settore pubblico di determinare se questi strumenti funzionano, imparare da ciò che non funziona e monitorare i diversi impatti sociali di questi strumenti", ha aggiunto Parker.