L'integrazione frettolosa dell'intelligenza artificiale da parte del governo del Regno Unito alimenta pregiudizi e discriminazioni

Negli ultimi anni, la rapida integrazione della tecnologia di intelligenza artificiale (IA) da parte del governo britannico in diverse procedure amministrative ha suscitato notevole apprensione tra critici ed esperti. Un rapporto del Guardian ha fatto luce su molteplici casi in cui l'integrazione dell'IA ha avuto conseguenze negative, in particolare per quanto riguarda pregiudizi razziali e pratiche discriminatorie, sollevando profonde preoccupazioni circa la comprensione e la gestione da parte del governo delle carenze della tecnologia.

L'impiego di sistemi di riconoscimento facciale da parte della Polizia Metropolitana di Londra ha suscitato notevoli critiche a causa della sua apparente predilezione per gli individui con carnagione scura. Nonostante le autorità siano consapevoli delle sue carenze, le recenti modifiche apportate per accelerare l'dentdei sospettati hanno avuto un impatto negativo sull'accuratezza del sistema, in particolare per le persone di colore. I risultati del National Physical Laboratory indicano che una riduzione della sensibilità ha portato a una riduzione di cinque volte dell'accuratezzadentdelle persone di colore, rispetto alle loro controparti bianche.

Gli strumenti di intelligenza artificiale del governo mostrano distorsioni nelle approvazioni dei sussidi e nelle licenze di matrimonio.

Sono emersi casi di pratiche discriminatorie all'interno dei sistemi governativi basati sull'intelligenza artificiale, che hanno portato a un trattamento ingiusto di alcune nazionalità. Il Dipartimento per il Lavoro e le Pensioni (DWP) è stato duramente criticato dopo che un sistema progettato per rilevare le frodi sui sussidi avrebbe segnalato un numero sproporzionato di cittadini bulgari, con il rischio di sospensioni ingiustificate dei sussidi e difficoltà finanziarie. La limitata comprensione da parte del DWP dei meccanismi interni dell'intelligenza artificiale e la sua riluttanza a divulgare informazioni rilevanti hanno esacerbato le preoccupazioni sull'integrità del sistema e sui potenziali pregiudizi.

Analogamente, l'impiego da parte del Ministero dell'Interno di basate sull'intelligenza artificiale tecnologiedenti matrimoni fraudolenti ha prodotto un numero considerevole di falsi positivi, che hanno interessato in particolare i richiedenti provenienti da Grecia, Albania, Bulgaria e Romania. Questi risultati sottolineano l'urgente necessità di un maggiore controllo e trasparenza nell'implementazione da parte del governo di strumenti basati sull'intelligenza artificiale.

L’uso improprio dell’intelligenza artificiale aumenta i rischi, dimostrando il fattore umano

dentrecenti, tra cui il caso in cui un avvocato statunitense ha tentato di utilizzare uno strumento basato sull'intelligenza artificiale per referenze legali, scoprendo poi informazioni inventate, evidenziano i rischi reali associati all'uso improprio e all'incomprensione dell'intelligenza artificiale. Questi episodi sottolineano l'importanza dell'errore umano e della negligenza nell'efficace implementazione della tecnologia dell'intelligenza artificiale.

La mancanza di informazioni complete e di trasparenza all'interno delle istituzioni governative aggrava ulteriormente le sfide associate all'integrazione dell'intelligenza artificiale, impedendo l'dente la rettifica di potenziali pregiudizi e pratiche discriminatorie.

Sebbene l'IA prometta di migliorare l'efficienza e l'accuratezza in vari processi governativi, gli sviluppi attuali sottolineano l'urgente necessità di quadri normativi solidi, di una supervisione completa e di una maggiore trasparenza nell'integrazione dell'IA. Affrontare i difetti e i pregiudizi intrinseci dei sistemi di IA è fondamentale per garantire risultati equi e giusti per tutti gli individui interessati da queste tecnologie.

L'evoluzione del dibattito sull'implementazione dell'IA da parte del governo del Regno Unito riflette l'urgente necessità di una maggiore responsabilità e di misure proattive per mitigare pratiche discriminatorie e pregiudizi nell'ambito della tecnologia dell'IA. Mentre il dibattito prosegue, resta fondamentale che i decisori politici e le parti interessate collaborino per stabilire linee guida complete che diano priorità all'equità e alla trasparenza, promuovendo in ultima analisi un uso più inclusivo ed equo dell'IA all'interno delle istituzioni governative.