El Departamento de Policía de Seattle cancela su contrato con IA ante la controversia por los comentarios inapropiados de un oficial

Recientemente, el Departamento de Policía de Seattle (SPD) ha rescindido su contrato con el proveedor de servicios de inteligencia artificial (IA) Truleo, especializado en el análisis de imágenes de cámaras corporales. Esta decisión se produce tras un escándalo que involucra al oficial Daniel Auderer y sus comentarios inapropiados tras la trágica muerte de Jaahnavi Kandula, una estudiante de posgrado de 23 años, en un accidente de coche policial. El incidente ha suscitado preguntas sobre el uso de la IA en la policía y la protección de la privacidad de los agentes.

Preocupaciones por el software de IA de Truleo

El software de IA de Truleo, diseñado para analizar imágenes de cámaras corporales, ha sido objeto de escrutinio por la aplicación de etiquetas de «riesgo» de su algoritmo. Según se informa, el software marcó videos que contenían palabras clave específicas, incluida la palabra «muerto». Este sistema de etiquetado automático, destinado a identificar situaciones potencialmente problemáticas, ha generado controversia sobre su precisión y sus implicaciones para la privacidad.

Planes de renovación frustrados

Los registros obtenidos por el medio de noticias investigativas Open Vallejo revelaron que, a diciembre, el Departamento de Policía de Seattle tenía la intención de renovar su contrato con Truleo por dos años adicionales. Sin embargo, este plan se detuvo abruptamente cuando Mike Solan, presidente de la Hermandad de Agentes de Policía de Seattle (SPOG), se enteró del uso de Truleo por parte del departamento. Solan se enfrentó al jefe de policía de Seattle, Adrian Diaz, desencadenando una cascada de eventos que condujeron a la cancelación del contrato.

Los controvertidos comentarios del oficial Auderer

La controversia comenzó cuando el oficial Daniel Auderer fue asignado a realizar una prueba de alcoholemia rutinaria al oficial Kevin Dave, quien había estado involucrado en un trágico accidente con Jaahnavi Kandula. Los comentarios grabados de Auderer durante una llamada telefónica con el presidente de la SPOG, Mike Solan, suscitaron graves preocupaciones. Se escuchó a Auderer decir: «Está muerta», y sugirió que se debería escribir un cheque por $11,000, añadiendo: «De todos modos tenía 26 años. Tenía un valor limitado». Estos comentarios provocaron una amplia condena y desataron indignación tanto dentro como fuera del departamento de policía.

Respuesta del sindicato y preocupaciones sobre la privacidad de los oficiales

El presidente de la SPOG, Mike Solan, expresó profundas preocupaciones sobre el uso de la tecnología de IA dentro del departamento, afirmando que los agentes se sentían como si estuvieran siendo espiados. Enfatizó que la situación había erosionado la confianza entre los agentes y la calificó como uno de los problemas más importantes que han afectado al departamento. La postura de Solan resonó con muchos agentes que se preocupaban por sus derechos de privacidad.

Un portavoz del SPD reconoció que el departamento inicialmente había entrado en un proyecto de demostración tecnológica con Truleo, con la intención de validar su funcionalidad a través de un programa piloto limitado. Sin embargo, la decisión de discontinuar su uso se produjo después de que los defensores de los derechos de privacidad expresaran preocupaciones de que la IA también revisaba imágenes de civiles. Además, resultó evidente que el sistema de IA tenía dificultades para comprender matices como el sarcasmo y el contexto completo de las interacciones, lo que hacía que su análisis fuera en gran medida ineficaz.

Dos ciudades toman una postura

Seattle y Vallejo son las únicas dos agencias de aplicación de la ley conocidas por haber terminado sus contratos con Truleo. En ambos casos, los funcionarios sindicales hicieron campaña contra la tecnología, citando preocupaciones sobre la posible exposición de comportamientos problemáticos de los agentes.

El papel de Truleo en la policía

La tecnología de IA de Truleo procesa videos de cámaras corporales para agencias de policía y fuerzas del orden de todo el país. Su propósito principal es automatizar la supervisión, facilitar el entrenamiento y promover la profesionalidad entre los agentes. La IA puede señalar riesgos potenciales cuando los agentes transmiten amenazas, utilizan lenguaje insultante o participan en comportamientos no profesionales. Incluso puede detectar el tono, la cortesía y la gratitud, mientras evalúa las explicaciones de los agentes sobre arrestos o multas.

El SPD había estado utilizando los servicios de Truleo desde 2021 hasta febrero de 2023, momento en el que se rescindió el contrato.

La SPOG responde a la indignación pública

En respuesta a la indignación pública y las protestas relacionadas con el incidente, la Hermandad de Agentes de Policía de Seattle emitió una declaración a mediados de septiembre. La declaración enfatizó que el video que capturaba los comentarios del oficial Auderer solo mostraba un lado de la conversación, lo que implicaba que había más detalles y matices que aún no se habían hecho públicos. La SPOG expresó su confianza en la capacidad de la Oficina de Responsabilidad de la Policía para realizar una investigación exhaustiva y justa sobre el asunto.

La controversia en torno al uso de la tecnología de IA por parte del Departamento de Policía de Seattle destaca la compleja relación entre los métodos de policía modernos y la protección de la privacidad de los agentes, así como el debate continuo sobre el papel de la IA en la aplicación de la ley. Queda por ver cómo este incidente influirá en las decisiones futuras sobre el uso de la IA en la policía y los derechos de privacidad de los agentes involucrados.