Detroit adopta nuevas normas para la tecnología de reconocimiento facial tras arrestos erróneos

El viernes, la ciudad de Detroit adoptó nuevas normas para el uso de la tecnología de reconocimiento facial basada en IA. La Unión Estadounidense de Libertades Civiles (ACLU) afirma que el nuevo conjunto de normas debería ser el estándar nacional.

Las agencias de aplicación de la ley en Estados Unidos utilizan tecnología de reconocimiento facial basada en IA para ayudar a identificar a los criminales capturados en cámara. En Míchigan, el sistema de IA compara los nuevos rostros con los de la base de datos de fotos de identificación o las imágenes de las licencias de conducir. En otras regiones de EE. UU., se utilizan herramientas como Clearview AI para buscar en fotos extraídas de Internet, especialmente de sitios de redes sociales, según un informe de The New York Times.

La tecnología de reconocimiento facial proporcionó coincidencias incorrectas 

Un ciudadano, Robert Williams, fue encarcelado en la cárcel de Detroit en enero de 2020. Fue arrestado por el Departamento de Policía de Detroit porque el sistema de reconocimiento facial sugirió que él era el culpable. La coincidencia del sistema fue incorrecta y Williams demandó. Pasó 30 horas en la cárcel.

También lea: Senadores exigen restricciones a la tecnología de reconocimiento facial en aeropuertos

El 28 de junio, Williams obtuvo un compromiso del Departamento de Policía de Detroit de mejorar sus procedimientos como parte de un acuerdo legal por su arresto injusto. La Unión Estadounidense de Libertades Civiles presentó al Sr. Williams como la primera persona arrestada injustamente debido al defectuoso sistema de reconocimiento facial. Williams dijo:

“Esperamos que esto impulse el cambio en la dirección correcta.”

Otras dos personas también fueron arrestadas basándose en la identificación del defectuoso sistema de reconocimiento facial. Porcha Woodruff, una mujer embarazada de ocho meses, también estaba entre las arrestadas acusadas falsamente de robo de vehículos.

La policía ahora necesita pruebas más allá del reconocimiento facial

Una nueva regla importante adoptada por la ciudad establece que las fotos de las personas identificadas por el sistema de reconocimiento facial ya no pueden mostrarse a un testigo presencial. Esto solo se permitiría si hay pruebas adicionales que conecten al individuo identificado con el delito.

El abogado de la ACLU, Phil Mayor, dijo: “La práctica de tomar una foto, colocarla en una fila de identificación, terminará”. Añadió además:

“Este acuerdo traslada al Departamento de Policía de Detroit de ser el usuario mal documentado de la tecnología de reconocimiento facial a un líder nacional en tener salvaguardas para su uso.”

Es importante recordar que el Sr. Williams fue arrestado injustamente por un delito de robo en una tienda que ocurrió cuando trabajaba en su escritorio en una empresa de suministros. También le tomaron las huellas dactilares y el ADN, y tuvo que contratar a un abogado para su defensa. La Sra. Woodruff fue arrestada cuando preparaba a sus hijos para la escuela. Ella también ha demandado a la ciudad y el caso está en los tribunales.

La policía utilizará la tecnología basada en IA para crímenes graves

La policía dijo que la tecnología de reconocimiento facial ayuda a resolver crímenes, ya que es una herramienta poderosa. Sin embargo, muchas ciudades han prohibido su uso debido a preocupaciones sobre el sesgo racial y la privacidad. Se dice que la policía de Detroit ha cometido tres arrestos injustos debido a la tecnología defectuosa. Sin embargo, los funcionarios de la ciudad dijeron que las nuevas reglas prevenirían el mal uso. 

También lea: Prohibir el escaneo: ¿Es el reconocimiento facial una amenaza para las libertades civiles?

Los funcionarios de la ciudad siguen siendo optimistas sobre el potencial de la tecnología de inteligencia artificial. Dijeron que la utilizarían para crímenes más graves, como allanamientos de morada, agresiones o asesinatos. James White, jefe de policía de Detroit, dijo que sus oficiales dependían demasiado de la tecnología. Culpa a su juicio en lugar de a la máquina.

Hablando de la regla según la cual la policía ya no puede mostrar el rostro de una persona únicamente sobre la base del reconocimiento facial, el Sr. Lamoreaux de la unidad de inteligencia criminal dijo:

“Debe haber algún tipo de evidencia corroborante secundaria no relacionada antes de que haya suficiente justificación para proceder a la fila de identificación.”

Lamoreaux dijo que la policía ahora necesitaría más que solo una semejanza física de la persona. Dijo que se requeriría la geolocalización del teléfono de una persona para determinar su ubicación o pruebas de ADN.

De acuerdo con las nuevas reglas, la policía tendrá que divulgar la búsqueda facial junto con la calidad de la foto. El Sr. Hayes, jefe adjunto de policía de Detroit, mostró su confianza en las nuevas reglas. Dijo que ayudarían a reducir las identificaciones erróneas. Sin embargo, señaló que “todavía hay algunas cosas que podrían pasar por alto, por ejemplo, los gemelos idénticos.”

Reportaje de Cryptopolitan por Aamir Sheikh