Il governo del Regno Unito non è trasparente riguardo all'uso dell'intelligenza artificiale, afferma il Segretario alla Tecnologia

Secondo quanto riferito, il governo del Regno Unito non sta inserendo nei registri obbligatori l'utilizzo dei sistemi di intelligenza artificiale, sollevando preoccupazioni in merito a questioni di trasparenza.

Secondo quanto riportato dal The Guardian, il Segretario alla Tecnologia ha ammesso che i dipartimenti non sono trasparenti riguardo all'uso dell'intelligenza artificiale e degli algoritmi, nonostante i vari dipartimenti governativi li utilizzino per vari scopi.

I dipartimenti governativi del Regno Unito “volano alla cieca” riguardo all’uso dell’intelligenza artificiale

L' articolo del Guardian rivela che nessun dipartimento ha elencato l'utilizzo dell'intelligenza artificiale da quando il governo ha annunciato che sarebbe diventata obbligatoria. Ciò ha sollevato preoccupazioni sul fatto che il settore pubblico stia "navigando alla cieca".

Ciò avviene mentre i dipartimenti governativi nel Regno Unito stanno già utilizzando l'intelligenza artificiale, ad esempio, per informare le decisioni su tutto, dai pagamenti dei sussidi all'applicazione delle leggi sull'immigrazione. Secondo il Guardian, alcuni documenti mostrano che enti pubblici hanno assegnatotracper servizi algoritmici di intelligenza artificiale.

Ad esempio, l’ente di approvvigionamento della polizia ha recentemente stipulato untracper il riconoscimento facciale del valore di 20 milioni di dollari, sollevando ulteriormente le preoccupazioni sulla “sorveglianza biometrica di massa”

Tuttavia, solo nove sistemi algoritmici sono stati inseriti in un registro pubblico, e nessuno dei programmi di intelligenza artificiale, il cui numero è in costante aumento, è stato utilizzato nel sistema di welfare dal Ministero dell'Interno o dalla polizia. A febbraio, il governo britannico ha annunciato che l'utilizzo di registri sull'IA sarebbe diventato un "requisito per tutti i dipartimenti governativi".

Interrogato sulla mancanza di trasparenza, il Segretario di Stato per la scienza e la tecnologia Peter Kyle ha ammesso che il settore pubblico "non ha preso abbastanza sul serio la necessità di essere trasparente nel modo in cui il governo utilizza gli algoritmi"

"Accetto che se il governo utilizza algoritmi per conto del pubblico, il pubblico ha il diritto di saperlo."

Kyle.

"Il pubblico deve percepire che gli algoritmi sono lì per servire loro e non il contrario. L'unico modo per farlo è essere trasparenti sul loro utilizzo", ha aggiunto Kyle.

Il governo del Regno Unito ha ignorato gli avvertimenti

Secondo l'articolo del Guardian, gli esperti hanno messo in guardia dai pericoli dell'intelligenza artificiale se adottata in modo acritico, con recenti esempi di sistemi IT che non funzionano come previsto, tra cui il software Horizon delle Poste.

L'uso della tecnologia AI a Whitehall spazia dal sistema Copilot di Microsoft ai controlli automatici di frodi ed errori nel sistema previdenziale. Un altro recente avviso ditracsull'AI del Dipartimento del Lavoro e delle Pensioni (DWP) ha descritto "un crescente interesse all'interno del DWP, che rispecchia quello del governo e della società in generale"

Oltre alla polizia, il Ministero dell'Interno si avvale anche di un sistema di controllo dell'immigrazione basato sull'intelligenza artificiale. Questo sistema, che i critici definiscono un "robo-assistente sociale", è coinvolto nell'elaborazione di decisioni, incluso il rimpatrio delle persone nei loro Paesi d'origine.

Il governo, tuttavia, lo ha descritto come un sistema "basato su regole", in contrapposizione all'intelligenza artificiale, perché non prevede l'apprendimento automatico dai dati. Secondo il governo, ciò comporta efficienze, sebbene la responsabilità di ogni decisione rimanga in capo a un essere umano.

Secondo quanto riferito, anche l'NHS England avrebbe untracda 330 milioni di sterline con Palantir per la costruzione di una nuova ed enorme piattaforma dati, sollevando ulteriori preoccupazioni sulla privacy dei pazienti. Palantir ha affermato che i pazienti mantengono il controllo dei dati.

Il gruppo per la tutela della privacy Big Brother Watch ha sottolineato che l'emergere del contratto con la polizia per il riconoscimento faccialetracnonostante gli avvertimenti dei parlamentari sulla mancanza di una legislazione che lo regolamenti, dimostra la scarsa trasparenza del governo sull'uso della tecnologia dell'intelligenza artificiale.

"L'uso segreto dell'intelligenza artificiale e degli algoritmi per influenzare la vita delle persone mette a rischio i diritti di tutti sui dati", ha affermato Madeleine Stone, responsabile della difesa dei diritti.

"I dipartimenti governativi devono essere aperti e onesti su come utilizzano questa tecnologia."

Calcolo.

Anche Imogen Parker, direttrice associata dell'organismo di ricerca sui dati e sull'intelligenza artificiale, ha espresso preoccupazione per la mancanza di trasparenza.

"La mancanza di trasparenza non solo tiene il pubblico all'oscuro, ma significa anche che il settore pubblico sta procedendo alla cieca nell'adozione dell'intelligenza artificiale"

Parker.

"La mancata pubblicazione dei registri sulla trasparenza algoritmica limita la capacità del settore pubblico di determinare se questi strumenti funzionano, di imparare da ciò che non funziona e di monitorare i diversi impatti sociali di questi strumenti", ha aggiunto Parker.