La ville de Détroit adopte de nouvelles règles concernant la technologie de reconnaissance faciale suite à des arrestations injustifiées

Vendredi, la ville de Détroit a adopté de nouvelles règles concernant l'utilisation de la technologie de reconnaissance faciale basée sur l'intelligence artificielle. L'Union américaine pour les libertés civiles (ACLU) estime que ces nouvelles règles devraient servir de norme nationale.

Aux États-Unis, les forces de l'ordre utilisent la technologie de reconnaissance faciale basée sur l'intelligence artificielle pour identifierdentcriminels filmés. Dans le Michigan, le système d'IA compare les nouveaux visages aux fichiers de photos d'identité judiciaire ou aux images de permis de conduire. Dans d'autres régions du pays, des outils comme Clearview AI sont utilisés pour effectuer des recherches dans des photos extraites d'Internet, notamment des réseaux sociaux, selon un article du New York Times.

La technologie de reconnaissance faciale a fourni des correspondances erronées 

En janvier 2020, Robert Williams, un citoyen, a été incarcéré à la prison de Détroit. Il avait été arrêté par la police de Détroit car un système de reconnaissance faciale l'avait désigné comme coupable. Le système s'étant trompé, Williams a fait l'objet de poursuites judiciaires. Il a passé 30 heures en prison.

À lire également : Des sénateurs demandent des restrictions sur la technologie de reconnaissance faciale dans les aéroports

Le 28 juin, Williams a obtenu du département de police de Détroit l'engagement d'améliorer le système dans le cadre d'un accord à l'amiable suite à son arrestation abusive. L'Union américaine pour les libertés civiles (ACLU) a présenté M. Williams comme la première personne arrêtée injustement en raison des défaillances du système de reconnaissance faciale. Williams a déclaré :

« Nous espérons que cela fera bouger les choses dans la bonne direction. »

Deux autres personnes ont également été arrêtées suite à l'denteffectuée par le système de reconnaissance faciale défectueux. Parmi les personnes arrêtées et accusées à tort de vol de voiture figurait également Porcha Woodruff, une femme enceinte de huit mois.

La police a désormais besoin de preuves autres que la reconnaissance faciale

Une nouvelle règle importante adoptée par la ville stipule que les photos des personnesdentpar le système de reconnaissance faciale ne peuvent plus être montrées à un témoin oculaire. Cette possibilité ne sera offerte que s'il existe des preuves supplémentaires reliant la personnedentà l'infraction.

L’avocat de l’ACLU, Phil Mayor, a déclaré : « La pratique consistant à prendre une photo et à la présenter systématiquement lors d’une séance d’identification va prendre fin. » Il a ajouté :

« Cet accord permet au département de police de Détroit de passer du statut d'utilisateur abusif le plus documenté de la technologie de reconnaissance faciale à celui de chef de file national en matière de contrôle de son utilisation. »

Il est important de rappeler que M. Williams a été arrêté à tort pour un vol à l'étalage commis alors qu'il travaillait à son bureau dans une entreprise de fournitures. Ses empreintes digitales et son ADN ont également été prélevés, et il a dû engager un avocat pour sa défense. Mme Woodruff a été arrêtée alors qu'elle préparait ses enfants pour l'école. Elle a également porté plainte contre la ville, et l'affaire est en cours.

La police utilisera une technologie basée sur l'IA pour les crimes graves

La police a déclaré que la technologie de reconnaissance faciale, outil puissant, contribue à la résolution des crimes. Cependant, de nombreuses villes en ont interdit l'utilisation par crainte de biais raciaux et d'atteintes à la vie privée. La police de Détroit aurait procédé à trois arrestations injustifiées en raison d'un dysfonctionnement de cette technologie. Les autorités municipales ont toutefois assuré que la nouvelle réglementation permettrait d'éviter tout abus. 

À lire également : Interdisons le scan – La reconnaissance faciale est-elle une menace pour les libertés civiles ?

Les autorités municipales restent optimistes quant au potentiel de l'intelligence artificielle. Elles ont déclaré qu'elles l'utiliseraient pour des crimes plus graves tels que les cambriolages, les agressions ou les meurtres. James White, chef de la police de Détroit, a quant à lui affirmé que ses agents s'appuyaient trop sur cette technologie. Il a mis en cause leur jugement plutôt que celui de la machine.

Évoquant la règle selon laquelle la police ne peut plus diffuser le visage d'un individu uniquement sur la base de la reconnaissance faciale, M. Lamoreaux, de l'unité de renseignement criminel, a déclaré :

« Il faut qu’il y ait une sorte de preuve corroborante secondaire et sans lien avec le sujet principal avant qu’il y ait suffisamment de justification pour procéder à la séance d’identification. »

Lamoreaux a indiqué que la police aurait désormais besoin de plus qu'une simple ressemblance physique. Il a précisé que le géorepérage du téléphone d'une personne serait nécessaire pour déterminer sa localisation ou pour recueillir des preuves ADN.

Selon les nouvelles règles, la police devra divulguer les résultats de la fouille faciale ainsi que la qualité de la photo. M. Hayes, chef adjoint de la police de Détroit, s'est dit confiant quant à l'efficacité de ces nouvelles règles. Il a déclaré qu'elles contribueraient à réduire les erreurs d'dent. Cependant, il a souligné : « Il reste encore quelques points faibles, comme par exemple les jumeaux ayant des identitésdent. »

Reportage Cryptopolitan par Aamir Sheikh