Tecnología de reconocimiento facial y desigualdades raciales en la policía

La Tecnología de Reconocimiento Facial (TRF) ha sido objeto de nuevo de escrutinio debido a la preocupación de que pueda exacerbar las desigualdades raciales en la actuación policial. Una investigación reciente de Scientific American online ha arrojado luz sobre los posibles sesgos presentes en de TRF y sus consecuencias en el mundo real. 

El estudio reveló que las agencias policiales que utilizan reconocimiento facial automatizado arrestan de manera desproporcionada a personas negras, lo que plantea preguntas críticas sobre la imparcialidad y confiabilidad de la tecnología.

Defectos en los algoritmos FRT

Los investigadores responsables del informe argumentan que varios factores contribuyen al impacto desproporcionado de la FRT en las comunidades negras. Una preocupación importante es la falta de diversidad en los conjuntos de datos de entrenamiento de los algoritmos, que a menudo carecen de una representación adecuada de rostros negros. Esta defipuede generar imprecisiones en ladentde individuos pertenecientes a grupos minoritarios.

Otro factor que contribuye es la creencia de las fuerzas del orden de que estos programas son infalibles. Esta excesiva dependencia de la tecnología puede llevar a los agentes a confiar plenamente en los resultados de la prueba de detección de fraudes (FRT), incluso cuando presentan fallos. 

Además, el estudio sugiere que los prejuicios inherentes de los oficiales pueden magnificar los problemas dentro de la FRT, dando lugar a arrestos injustos y consecuencias perjudiciales para individuos inocentes.

Un ejemplo sorprendente de las consecuencias en el mundo real de ladenterrónea de FRT es el caso de Harvey Eugene Murphy Jr. El abuelo de 61 años actualmente está demandando a la empresa matriz de Sunglass Hut después de que la tecnología de reconocimiento facial de la tienda lodentfalsamente como un ladrón. 

El robo ocurrió en una tienda Sunglass Hut en Houston, Texas, donde dos individuos armados robaron cash y mercancía.

La policía de Houston, basándose en la FRT,denta Murphy como sospechoso, a pesar de que residía en California al momento del crimen. Fue arrestado al regresar a Texas para renovar su licencia de conducir. Durante su encarcelamiento, Murphy alega haber sido agredido sexualmente por tres hombres en un baño, lo que le provocó lesiones que le cambiaron la vida.

Aunque la Fiscalía del Condado de Harris finalmente determinó que Murphy no estuvo involucrado en el robo, el daño ya estaba causado durante su detención. Sus abogados argumentan que este caso ejemplifica las deficiencias inherentes de la FRT y sus consecuencias en la práctica.

Perspectivas de expertos y llamadas a la acción

Os Keyes, becario Ada Lovelace y candidato a doctorado en la Universidad de Washington, afirma que estos sistemas están diseñados para automatizar y acelerar los prejuicios policiales existentes, particularmente contra individuos que ya están marginados o en el sistema de justicia penal. 

Keyes enfatiza que los resultados negativos de la FRT son inevitables y horrorosos, y enfatiza la necesidad de una reforma más amplia en la policía y la regulación de la FRT.

Los investigadores de Scientific American destacan que empresas privadas como Amazon, Clearview AI y Microsoft suelen desarrollar algoritmos FRT utilizados por las fuerzas del orden. 

A pesar de los avances en las técnicas de aprendizaje profundo, las pruebas federales han demostrado que la mayoría de los algoritmos de reconocimiento facial tienen dificultades paradentcon precisión a las personas, especialmente a aquellas que no son hombres blancos.

En 2023, la Comisión Federal de Comercio (FTC) tomó medidas contra el uso de FRT al prohibir a Rite Aid utilizar esta tecnología. Rite Aid había acusado erróneamente a personas de hurto en tiendas basándose en coincidencias de FRT. En undentalarmante, una niña de 11 años fue detenida y registrada por un empleado de Rite Aid debido a una coincidencia falsa.

De manera similar, el Departamento de Policía de Detroit enfrentó una demanda después de que su equipo de respuesta a emergenciasdenterróneamente a Porcha Woodruff, una mujer embarazada, como sospechosa de robo de auto. Woodruff tenía ocho meses de embarazo en ese momento y fue encarcelada injustamente.

La FTC reconoció que las personas de color suelen serdenterróneamente al usar la FRT. La sobrerrepresentación de hombres blancos en los conjuntos de datos de entrenamiento genera algoritmos sesgados, lo que resulta en la clasificación desproporcionada de rostros negros como delincuentes. Esto, a su vez, contribuye a la persecución y detención injusta de personas negras inocentes.

Pide rendición de cuentas y reformas

Ante estas preocupaciones, los investigadores enfatizan la necesidad de que las empresas que desarrollan productos FRT prioricen la diversidad de personal e imagen en sus procesos de desarrollo. Sin embargo, también enfatizan que las fuerzas del orden deben examinar críticamente sus métodos para evitar que la tecnología agrave las disparidades raciales y viole los derechos de las personas.

A medida que continúa el debate en torno a la tecnología de reconocimiento facial, se hace cada vez más evidente que se necesitan reformas y regulaciones integrales para abordar los problemas sistémicos de su implementación. 

Las consecuencias de los algoritmos FRT defectuosos se extienden mucho más allá de los fallos técnicos y afectan la vida y el bienestar de las personas, en particular de las de comunidades marginadas.