Technologie de reconnaissance faciale et inégalités raciales dans la police

La technologie de reconnaissance faciale (FRT) est de nouveau sous le feu des projecteurs en raison des craintes qu'elle n'exacerbe les inégalités raciales dans la police. Des recherches récentes menées par Scientific American en ligne ont mis en lumière les biais potentiels intégrés dans les algorithmes de FRT et leurs conséquences dans la vie réelle.

L'étude a révélé que les agences de police utilisant la reconnaissance faciale automatisée arrêtent de manière disproportionnée des personnes noires, soulevant des questions critiques sur l'équité et la fiabilité de cette technologie.

Défauts des algorithmes de FRT

Les chercheurs à l'origine du rapport soutiennent que plusieurs facteurs contribuent à l'impact disproportionné de la FRT sur les communautés noires. Une préoccupation majeure est le manque de diversité dans les ensembles de données d'entraînement des algorithmes, qui manquent souvent d'une représentation adéquate des visages noirs. Cette lacune peut entraîner des erreurs d'identification des individus issus de minorités.

Un autre facteur contributif est la croyance parmi les forces de l'ordre que ces programmes sont infaillibles. Cette dépendance excessive à la technologie peut amener les officiers à faire aveuglément confiance aux résultats de la FRT, même lorsqu'ils sont erronés. 

De plus, l'étude suggère que les biais inhérents aux officiers peuvent amplifier les problèmes au sein de la FRT, conduisant à des arrestations injustifiées et à des conséquences néfastes pour des individus innocents.

Un exemple frappant des conséquences réelles d'une mauvaise identification par la FRT est l'affaire de Harvey Eugene Murphy Jr. Le grand-père de 61 ans poursuit actuellement la société mère de Sunglass Hut après que la technologie de reconnaissance faciale du magasin l'a faussement identifié comme un voleur. 

Le vol s'est produit dans un magasin Sunglass Hut à Houston, au Texas, où deux individus armés ont volé à la fois de l'argent liquide et des marchandises.

La police de Houston, se fiant à la FRT, a identifié Murphy comme suspect, bien qu'il résidait en Californie au moment du crime. Il a été arrêté à son retour au Texas pour renouveler son permis de conduire. Pendant sa détention, Murphy allègue avoir été agressé sexuellement par trois hommes dans une salle de bain, lui infligeant des blessures qui ont changé sa vie.

Bien que le bureau du procureur du comté de Harris ait finalement déterminé que Murphy n'était pas impliqué dans le vol, les dégâts avaient déjà été faits pendant sa période de garde à vue. Ses avocats soutiennent que cette affaire illustre les défauts inhérents de la FRT et ses conséquences dans la pratique.

Perspectives d'experts et appels à l'action

Os Keyes, boursière Ada Lovelace et doctorante à l'Université de Washington, affirme que ces systèmes sont conçus pour automatiser et accélérer les biais policiers existants, en particulier contre les individus déjà marginalisés ou dans le système de justice pénale. 

Keyes souligne que les résultats négatifs de la FRT sont à la fois inévitables et horrifiants, soulignant la nécessité d'une réforme plus large de la police et de la réglementation de la FRT.

Les chercheurs de Scientific American soulignent que des entreprises privées comme Amazon, Clearview AI et Microsoft développent généralement les algorithmes de FRT utilisés par les agences de police. 

Malgré les avancées dans les techniques d'apprentissage profond, les tests fédéraux ont montré que la plupart des algorithmes de reconnaissance faciale peinent à identifier avec précision les individus, en particulier ceux qui ne sont pas des hommes blancs.

En 2023, la Federal Trade Commission (FTC) a pris des mesures contre l'utilisation de la FRT en interdisant à Rite Aid d'utiliser cette technologie. Rite Aid avait faussement accusé des individus de vol à l'étalage sur la base de correspondances FRT. Dans un incident alarmant, une fille de 11 ans a été arrêtée et fouillée par un employé de Rite Aid en raison d'une fausse correspondance.

De même, le département de police de Detroit a fait face à un procès après que sa FRT a faussement identifié une femme enceinte, Porcha Woodruff, comme suspecte de vol de voiture. Woodruff était enceinte de huit mois à l'époque et a été incarcérée à tort.

La FTC a reconnu que les personnes de couleur sont souvent mal identifiées lors de l'utilisation de la FRT. La surreprésentation des hommes blancs dans les ensembles de données d'entraînement conduit à des algorithmes biaisés, résultant en une marquage disproportionné des visages noirs comme criminels. Cela contribue à son tour au ciblage injuste et à l'arrestation d'individus noirs innocents.

Appels à la responsabilité et à la réforme

Compte tenu de ces préoccupations, les chercheurs soulignent la nécessité pour les entreprises développant des produits FRT de prioriser la diversité du personnel et des images dans leurs processus de développement. Cependant, ils soulignent également que les agences de police doivent examiner de manière critique leurs méthodes pour empêcher la technologie d'exacerber les disparités raciales et de violer les droits des individus.

Alors que le débat sur la technologie de reconnaissance faciale se poursuit, il devient de plus en plus clair qu'une réforme et une réglementation complètes sont nécessaires pour aborder les problèmes systémiques de sa mise en œuvre. 

Les conséquences des algorithmes FRT défectueux vont bien au-delà des bugs techniques, affectant la vie et le bien-être des individus, en particulier ceux des communautés marginalisées.