Detroit adotta nuove regole per la tecnologia di riconoscimento facciale dopo arresti ingiusti

Venerdì, la città di Detroit ha adottato nuove regole per l'uso della tecnologia di riconoscimento facciale basata sull'IA. L'American Civil Liberties Union (ACLU) afferma che il nuovo insieme di regole dovrebbe essere uno standard nazionale.

Le agenzie di applicazione della legge in tutto gli Stati Uniti utilizzano la tecnologia di riconoscimento facciale basata sull'IA per aiutare a identificare i criminali catturati sulle telecamere. In Michigan, il sistema IA confronta i nuovi volti con quelli nel database delle foto segnaletiche o con le immagini delle patenti di guida. In altre regioni degli Stati Uniti, strumenti come Clearview AI vengono utilizzati per cercare foto scaricate da internet, specialmente dai siti di social media, secondo un rapporto del New York Times.

La tecnologia di riconoscimento facciale ha fornito corrispondenze errate 

Un cittadino, Robert Williams, è stato imprigionato nel carcere di Detroit nel gennaio 2020. È stato arrestato dal Dipartimento di Polizia di Detroit perché il sistema di riconoscimento facciale ha suggerito che era il colpevole. La corrispondenza del sistema era errata e Williams è stato citato in giudizio. È rimasto in carcere per 30 ore.

Leggi anche: I senatori chiedono restrizioni sulla tecnologia di riconoscimento facciale negli aeroporti

Il 28 giugno, Williams ha ottenuto un impegno dal Dipartimento di Polizia di Detroit che avrebbe migliorato il sistema come parte di un accordo legale per il suo ingiusto arresto. L'American Civil Liberties Union ha presentato il signor Williams come il primo individuo ad essere ingiustamente arrestato a causa del sistema di riconoscimento facciale difettoso. Williams ha detto:

"Speriamo che questo spinga l'ago nella direzione giusta."

Altre due persone sono state arrestate sulla base dell'identificazione effettuata dal sistema di riconoscimento facciale difettoso. Tra i fermati, accusati ingiustamente di furto d'auto, c'era anche Porcha Woodruff, incinta di otto mesi.

La polizia ora ha bisogno di prove oltre al riconoscimento facciale

Una nuova importante regola adottata dalla città stabilisce che le foto delle persone identificate dal sistema di riconoscimento facciale non possono più essere mostrate a un testimone oculare. Questo sarà consentito solo se ci sono prove aggiuntive che collegano l'individuo identificato all'offesa.

L'avvocato dell'ACLU, Phil Mayor, ha dichiarato: «Il processo di prendere una foto, inserirla in un identikit, finirà». Ha aggiunto ulteriormente,

«Questo accordo sposta il Dipartimento di Polizia di Detroit dall'essere il malintenzionato più documentato nell'uso della tecnologia di riconoscimento facciale a un leader nazionale nell'implementazione di tutele per il suo utilizzo.»

È importante ricordare che il signor Williams è stato arrestato ingiustamente per un reato di furto al dettaglio commesso mentre lavorava alla sua scrivania in un'azienda di forniture. Le sue impronte digitali e il DNA sono stati raccolti e ha dovuto assumere un avvocato per la sua difesa. La signora Woodruff è stata arrestata mentre preparava i suoi figli per la scuola. Ha anche intentato una causa contro la città e il caso è in tribunale.

La polizia utilizzerà la tecnologia basata sull'IA per reati gravi

La polizia ha affermato che la tecnologia di riconoscimento facciale aiuta a risolvere i crimini poiché è uno strumento potente. Tuttavia, molte città ne hanno bandito l'uso a causa di preoccupazioni riguardo al pregiudizio razziale e alla privacy. Si dice che la polizia di Detroit abbia effettuato tre arresti ingiusti a causa di una tecnologia difettosa. Tuttavia, i funzionari della città hanno dichiarato che le nuove regole avrebbero prevenuto abusi. 

Leggi anche: Ban the Scan – Il Riconoscimento Facciale è una Minaccia alle Libertà Civili?

I funzionari della città rimangono ottimisti riguardo al potenziale della tecnologia di intelligenza artificiale. Hanno dichiarato che la utilizzeranno per reati più gravi come irruzioni in casa, aggressioni o omicidi. James White, capo della polizia di Detroit, ha affermato che i suoi agenti facevano troppo affidamento sulla tecnologia. Ha attribuito la colpa al loro giudizio piuttosto che alla macchina.

Parlando della regola secondo cui la polizia non può più mostrare il volto di un individuo basandosi esclusivamente sul riconoscimento facciale, il signor Lamoreaux dell'unità di intelligence criminale ha dichiarato,

«Deve esserci un qualche tipo di prova corroborante secondaria non correlata prima che ci sia una giustificazione sufficiente per procedere con l'identikit.»

Lamoreaux ha affermato che la polizia ora avrà bisogno di più della semplice somiglianza fisica di una persona. Ha detto che sarà richiesto il geotagging del telefono di una persona per determinarne la posizione o prove di DNA.

Secondo le nuove regole, la polizia dovrà divulgare la ricerca facciale insieme alla qualità della foto. Il signor Hayes, vice capo della polizia di Detroit, ha mostrato la sua fiducia nelle nuove regole. Ha affermato che avrebbero aiutato a contenere le identificazioni errate. Tuttavia, ha sottolineato che «ci sono ancora alcune cose che potrebbero sfuggire, ad esempio i gemelli omozigoti.»

Reportage di Cryptopolitan a cura di Aamir Sheikh