Tecnologia di Riconoscimento Facciale e Disuguaglianze Razziali nelle Forze dell'Ordine

La tecnologia di riconoscimento facciale (FRT) è stata nuovamente sottoposta a scrutinio a causa delle preoccupazioni che possa esacerbare le disuguaglianze razziali nelle forze dell'ordine. Una recente ricerca condotta da Scientific American online ha illuminato i potenziali pregiudizi incorporati negli algoritmi FRT e le loro conseguenze nel mondo reale.

Lo studio ha rivelato che le agenzie di applicazione della legge che utilizzano il riconoscimento facciale automatizzato arrestano in modo sproporzionato individui neri, sollevando questioni critiche sull'equità e l'affidabilità della tecnologia.

Difetti negli algoritmi FRT

I ricercatori dietro il rapporto sostengono che diversi fattori contribuiscono all'impatto sproporzionato del FRT sulle comunità nere. Una delle principali preoccupazioni è la mancanza di diversità nei dataset di addestramento degli algoritmi, che spesso mancano di una rappresentazione adeguata dei volti neri. Questa carenza può portare a inaccurati nell'identificazione di individui di gruppi minoritari.

Un altro fattore contribuente è la convinzione tra le forze dell'ordine che questi programmi siano infallibili. Questa eccessiva dipendenza dalla tecnologia può far sì che gli agenti si fidino ciecamente dei risultati del FRT, anche quando sono difettosi. 

Inoltre, lo studio suggerisce che i pregiudizi intrinseci degli agenti possono amplificare i problemi all'interno del FRT, portando ad arresti ingiusti e conseguenze dannose per individui innocenti.

Un esempio sorprendente delle conseguenze nel mondo reale di un'identificazione errata del FRT è il caso di Harvey Eugene Murphy Jr. Il nonno di 61 anni sta attualmente citando in giudizio la società madre di Sunglass Hut dopo che la tecnologia di riconoscimento facciale del negozio lo ha identificato erroneamente come un ladro. 

La rapina è avvenuta in un negozio Sunglass Hut a Houston, Texas, dove due individui armati hanno rubato sia contanti che merce.

La polizia di Houston, facendo affidamento sul FRT, ha identificato Murphy come sospetto, anche se risiedeva in California al momento del crimine. È stato arrestato al suo ritorno in Texas per rinnovare la patente di guida. Mentre era in prigione, Murphy sostiene di essere stato aggredito sessualmente da tre uomini in un bagno, subendo ferite che gli hanno cambiato la vita.

Sebbene l'ufficio del Procuratore Distrettuale della Contea di Harris abbia alla determinato che Murphy non era coinvolto nella rapina, il danno era già stato fatto durante il suo periodo di detenzione. I suoi avvocati sostengono che questo caso esemplifica i difetti intrinseci e le conseguenze del FRT nella pratica.

Approfondimenti degli esperti e chiamate all'azione

Os Keyes, una Ada Lovelace Fellow e dottoranda presso l'Università di Washington, afferma che questi sistemi sono progettati per automatizzare e accelerare i pregiudizi esistenti della polizia, in particolare contro individui già emarginati o nel sistema di giustizia penale. 

Keyes sottolinea che gli esiti negativi del FRT sono sia inevitabili che terrificanti, sottolineando la necessità di una riforma più ampia nelle forze dell'ordine e nella regolamentazione del FRT.

I ricercatori di Scientific American sottolineano che le aziende private come Amazon, Clearview AI e Microsoft sviluppano tipicamente gli algoritmi FRT utilizzati dalle agenzie di applicazione della legge. 

Nonostante i progressi nelle tecniche di deep learning, i test federali hanno dimostrato che la maggior parte degli algoritmi di riconoscimento facciale fatica a identificare con precisione gli individui, specialmente quelli che non sono uomini bianchi.

Nel 2023, la Federal Trade Commission (FTC) ha intrapreso azioni contro l'uso del FRT proibendo a Rite Aid di utilizzare questa tecnologia. Rite Aid aveva accusato erroneamente individui di scippi basandosi sulle corrispondenze del FRT. In un incidente allarmante, una ragazza di 11 anni è stata fermata e perquisita da un dipendente di Rite Aid a causa di una falsa corrispondenza.

Similmente, il Dipartimento di Polizia di Detroit ha affrontato una causa dopo che il loro FRT ha identificato erroneamente una donna incinta, Porcha Woodruff, come sospetta di rapina di auto. Woodruff era incinta di otto mesi in quel momento ed è stata ingiustamente detenuta.

La FTC ha riconosciuto che le persone di colore sono spesso identificate erroneamente quando utilizzano il FRT. La sovrarappresentazione di maschi bianchi nei dataset di addestramento porta ad algoritmi distorti, risultando nell'etichettatura sproporzionata dei volti neri come criminali. Questo, a sua volta, contribuisce al targeting ingiusto e all'arresto di individui neri innocenti.

Chiamate per la responsabilità e la riforma

Alla luce di queste preoccupazioni, i ricercatori sottolineano la necessità che le aziende che sviluppano prodotti FRT diano priorità alla diversità del personale e delle immagini nei loro processi di sviluppo. Tuttavia, sottolineano anche che le agenzie di applicazione della legge devono esaminare criticamente i loro metodi per impedire che la tecnologia esacerbi le disparità razziali e violi i diritti degli individui.

Mentre il dibattito sulla tecnologia di riconoscimento facciale continua, diventa sempre più chiaro che una riforma e una regolamentazione complete sono necessarie per affrontare i problemi sistemici della sua implementazione. 

Le conseguenze degli algoritmi FRT difettosi si estendono ben oltre i glitch tecnici, influenzando la vita e il benessere degli individui, in particolare quelli provenienti da comunità emarginate.