Tecnología de Reconocimiento Facial e Inequidades Raciales en la Policía

La Tecnología de Reconocimiento Facial (FRT) ha vuelto a ser objeto de escrutinio debido a las preocupaciones de que puede exacerbar las inequidades raciales en la policía. Una investigación reciente realizada por Scientific American en línea ha arrojado luz sobre los posibles sesgos incrustados en los algoritmos de FRT y sus consecuencias en el mundo real.

El estudio reveló que las agencias de aplicación de la ley que utilizan el reconocimiento facial automatizado arrestan desproporcionadamente a personas negras, planteando preguntas críticas sobre la equidad y confiabilidad de la tecnología.

Defectos en los algoritmos de FRT

Los investigadores detrás del informe argumentan que varios factores contribuyen al impacto desproporcionado de la FRT en las comunidades negras. Una gran preocupación es la falta de diversidad en los conjuntos de datos de entrenamiento de los algoritmos, que a menudo carecen de una representación adecuada de rostros negros. Esta deficiencia puede llevar a inexactitudes en la identificación de individuos de grupos minoritarios.

Otro factor contribuyente es la creencia entre las fuerzas policiales de que estos programas son infalibles. Esta dependencia excesiva de la tecnología puede hacer que los oficiales confíen ciegamente en los resultados de la FRT, incluso cuando son defectuosos. 

Además, el estudio sugiere que los sesgos inherentes de los oficiales pueden magnificar los problemas dentro de la FRT, llevando a arrestos erróneos y consecuencias perjudiciales para individuos inocentes.

Un ejemplo impactante de las consecuencias en el mundo real de la identificación errónea por parte de la FRT es el caso de Harvey Eugene Murphy Jr. El abuelo de 61 años está demandando actualmente a la empresa matriz de Sunglass Hut después de que la tecnología de reconocimiento facial de la tienda lo identificara falsamente como un ladrón. 

El robo ocurrió en una tienda Sunglass Hut en Houston, Texas, donde dos individuos armados robaron efectivo y mercancía.

La policía de Houston, confiando en la FRT, identificó a Murphy como sospechoso, aunque él residía en California en el momento del crimen. Fue arrestado al regresar a Texas para renovar su licencia de conducir. Mientras estaba en la cárcel, Murphy alega que fue asaltado sexualmente por tres hombres en un baño, lo que resultó en lesiones que cambiaron su vida.

Aunque la oficina del Fiscal Distrital del Condado de Harris determinó finalmente que Murphy no estaba involucrado en el robo, el daño ya se había cometido durante su tiempo en custodia. Sus abogados argumentan que este caso ejemplifica los defectos inherentes de la tecnología de reconocimiento facial (FRT, por sus siglas en inglés) y sus consecuencias en la práctica.

Perspectivas de expertos y llamados a la acción

Os Keyes, becaria Ada Lovelace y candidata a doctorado en la Universidad de Washington, afirma que estos sistemas están diseñados para automatizar y acelerar los sesgos policiales existentes, particularmente contra individuos que ya están marginados o en el sistema de justicia penal. 

Keyes enfatiza que los resultados negativos de la FRT son tanto inevitables como horrorosos, destacando la necesidad de una reforma más amplia en la policía y la regulación de la FRT.

Los investigadores de Scientific American destacan que empresas privadas como Amazon, Clearview AI y Microsoft suelen desarrollar los algoritmos de FRT utilizados por las agencias de aplicación de la ley. 

A pesar de los avances en técnicas de aprendizaje profundo, las pruebas federales han demostrado que la mayoría de los algoritmos de reconocimiento facial tienen dificultades para identificar con precisión a las personas, especialmente a aquellas que no son hombres blancos.

En 2023, la Comisión Federal de Comercio (FTC, por sus siglas en inglés) tomó medidas contra el uso de la FRT prohibiendo a Rite Aid utilizar esta tecnología. Rite Aid había acusado erróneamente a personas de hurto en tiendas basándose en coincidencias de FRT. En un incidente alarmante, una niña de 11 años fue detenida y registrada por un empleado de Rite Aid debido a una falsa coincidencia.

De manera similar, el Departamento de Policía de Detroit enfrentó una demanda después de que su FRT identificara erróneamente a una mujer embarazada, Porcha Woodruff, como sospechosa de un robo de vehículo. Woodruff estaba embarazada de ocho meses en ese momento y fue encarcelada injustamente.

La FTC reconoció que las personas de color a menudo son identificadas erróneamente al utilizar la FRT. La sobrerrepresentación de hombres blancos en los conjuntos de datos de entrenamiento lleva a algoritmos sesgados, lo que resulta en la marcación desproporcionada de rostros negros como criminales. Esto, a su vez, contribuye al objetivo injusto y al arresto de individuos negros inocentes.

Llamados a la rendición de cuentas y la reforma

A la luz de estas preocupaciones, los investigadores enfatizan la necesidad de que las empresas que desarrollan productos de FRT prioricen la diversidad del personal y de las imágenes en sus procesos de desarrollo. Sin embargo, también subrayan que las agencias de aplicación de la ley deben examinar críticamente sus métodos para evitar que la tecnología exacerbe las disparidades raciales y viole los derechos de las personas.

A medida que el debate sobre la tecnología de reconocimiento facial continúa, se vuelve cada vez más claro que una reforma y regulación integra son necesarias para abordar los problemas sistémicos de su implementación. 

Las consecuencias de los algoritmos de FRT defectuosos se extienden mucho más allá de los fallos técnicos, afectando las vidas y el bienestar de las personas, particularmente aquellas de comunidades marginadas.