La policía en la era digital para equilibrar la IA y la ética

La Inteligencia Artificial (IA) está transformando el panorama de las fuerzas del orden en todo el Reino Unido. Las fuerzas policiales recurren cada vez más a sistemas impulsados por IA para mejorar sus capacidades, pero este cambio tecnológico no está exento de desafíos y consideraciones éticas.

La adopción de la tecnología de IA en la policía ha llamado la atención de Interpol, planteando preocupaciones sobre los riesgos potenciales y los dilemas éticos. Las agencias de aplicación de la ley británicas, en particular, están bajo escrutinio mientras emprenden iniciativas transformadoras que incorporan características de IA.

Interpol ha señalado que los sistemas de IA, aunque prometedores, vienen con limitaciones y riesgos inherentes en su implementación y uso diario. Uno de los principales desafíos son las brechas de seguridad que existen dentro de estos sistemas. Institucionalizar el despliegue responsable de la IA requiere una gestión y gobernanza estrictas de los datos, así como programas integrales de formación y concienciación para el poder judicial, fiscales, abogados y personal de las fuerzas del orden.

Aimee Smith, directora de datos del Servicio de Policía Metropolitana, subrayó el papel crítico de los sistemas de información e inteligencia basados en lo digital en la policía. Hizo hincapié en que lograr una correcta integración de la IA es esencial para mejorar la eficacia de los agentes y preservar el principio fundamental de la policía por consentimiento.

El potencial disruptivo de la IA

La IA y la automatización se han convertido en componentes integrales de los proyectos digitales en varios sectores, con Technopedia describiendo el despliegue de la IA como una de las revoluciones tecnológicas más disruptivas del siglo. Sin embargo, distinguir entre información real y datos sintéticos generados por IA se ha vuelto cada vez más difícil. Se estima que el contenido generado por IA podría dominar pronto hasta el 90 % de Internet.

El Foro Económico Mundial ha destacado la naturaleza contradictoria de la IA, mientras que Axios AM ha señalado el volumen masivo de contenido generado por programas como ChatGPT y Dall-E. La sobrecarga de información y la degradación son dos peligros gemelos, con la IA a veces perpetuando sesgos y errores en los datos.

Además, el proceso de formación de la IA se está volviendo más complejo a medida que evoluciona, con sistemas de IA que forman a otros sistemas de IA, lo que dificulta revertir los errores digitales. A medida que la IA se vuelve más interactiva, los individuos ordinarios se ven atraídos al ecosistema en línea, lo que lleva a The Economist a reflexionar sobre la idea de «Humildad Humana».

Las luchas de la IA con el reconocimiento facial

La IA ha enfrentado desafíos significativos en el ámbito de los sistemas de reconocimiento facial. El Gobierno del Reino Unido ha propuesto implementar escaneos CCTV/IA para identificar a los ladrones de tiendas como una práctica estándar dentro de la base de datos nacional de la policía. Este ambicioso objetivo, sin embargo, presenta su propio conjunto de desafíos.

Exception, experta en soluciones en la nube y digitales, ha intervenido para ayudar a las fuerzas policiales del Reino Unido a navegar por las complejidades de la adopción de la IA. Exception ha sido fundamental para entregar la primera implementación mundial de Niche RMS en una plataforma Azure a seis fuerzas policiales del Reino Unido. Niche RMS es un sistema moderno y completo de gestión de registros policiales diseñado para agencias grandes y sistemas multiautoridad, que ofrece ganancias de eficiencia, capacidades de policía mejoradas y una protección comunitaria mejorada.

El enfoque de Exception está firmemente arraigado en su política de «policía primero, digital segundo». La empresa ha implementado con éxito estos sistemas para la Policía de Escocia, la Policía de la Ciudad de Londres y las fuerzas de Hertfordshire, Lincolnshire, South Yorkshire y Humberside. La transición de los sistemas de gestión de casos y registros a la nube es parte de una estrategia de servicios TIC más amplia para impulsar decisiones basadas en la tecnología y desarrollar una estrategia digital y de datos de tres años.

Garantizar un manejo responsable de los datos

En línea con los altos estándares digitales de la policía, el enfoque de Exception incluye la contratación de un Director de Información (CIO) y el establecimiento de una «autoridad de diseño empresarial» para supervisar las decisiones arquitectónicas y la gobernanza del diseño. Este compromiso es crucial para garantizar el manejo y almacenamiento seguros, adecuados y apropiados de los datos en el paisaje en rápida evolución de la tecnología policial.

A medida que la IA sigue transformando la policía en el Reino Unido, está claro que la gobernanza responsable y las consideraciones éticas deben permanecer a la vanguardia. Lograr el equilibrio adecuado entre la innovación tecnológica y la salvaguarda de los principios fundamentales de las fuerzas del orden es primordial en la era digital. A medida que la sociedad se adapta a estos cambios, debemos mantener la detección de la IA firmemente en el lado correcto de la ley.

La integración de la IA en la policía es una espada de doble filo que promete capacidades mejoradas pero también plantea desafíos significativos. Una gobernanza más estricta, una formación integral y consideraciones éticas son esenciales para garantizar que la IA apoye, en lugar de socavar, los principios fundamentales de las fuerzas del orden. Las soluciones innovadoras de Exception representan un paso en la dirección correcta hacia el logro de este delicado equilibrio en la era digital.