El gobierno del Reino Unido no es transparente sobre su uso de IA, dice el Secretario de Tecnología

Se informa que el gobierno del Reino Unido no está listando su uso de sistemas de IA en registros obligatorios, lo que genera preocupaciones sobre problemas de transparencia.

Según The Guardian, el Secretario de Tecnología ha admitido desde entonces que los departamentos no son transparentes respecto a su uso de IA y algoritmos, a pesar de que varios departamentos gubernamentales lo utilizan para diversos propósitos.

Los departamentos del gobierno del Reino Unido «vuelan a ciegas» sobre su uso de IA

The Guardian revela que ninguno de los departamentos enumerados declaró el uso de IA desde que el gobierno indicó que se volvería obligatorio. Esto ha generado preocupaciones de que el sector público esté «volando a ciegas».

Esto ocurre mientras los departamentos gubernamentales en el Reino Unido ya están utilizando IA, por ejemplo, para informar decisiones sobre todo, desde pagos de beneficios hasta la aplicación de la inmigración. Según The Guardian, algunos registros muestran que los organismos públicos adjudicaron contratos para servicios algorítmicos de IA.

Por ejemplo, el organismo de adquisiciones de la policía recientemente puso a disposición un contrato de reconocimiento facial por valor de 20 millones de dólares, lo que aumenta aún más las preocupaciones sobre la «vigilancia biométrica masiva».

Sin embargo, solo nueve sistemas algorítmicos se han presentado a un registro público, ninguno de los crecientes números de programas de IA utilizados en el sistema de bienestar por el Home Office o por la policía. En febrero, el gobierno del Reino Unido anunció que el uso de registros de IA ahora sería un «requisito para todos los departamentos gubernamentales».

Cuando se le preguntó sobre la falta de transparencia, el Secretario de Estado de Ciencia y Tecnología, Peter Kyle, admitió que el sector público «no ha tomado lo suficientemente en serio la necesidad de ser transparente en la forma en que el gobierno utiliza los algoritmos».

«Acepto que si el gobierno está utilizando algoritmos en nombre del público, el público tiene derecho a saberlo».

Kyle.

«El público necesita sentir que los algoritmos están ahí para servirlos y no al revés. La única forma de lograrlo es ser transparente sobre su uso», añadió Kyle.

El gobierno del Reino Unido ignoró las advertencias

Según el artículo de The Guardian, los expertos advirtieron sobre los peligros de la IA si se adopta de manera acrítica, con ejemplos recientes de sistemas de TI que no funcionaron como se pretendía, incluido el software Horizon de la Oficina de Correos.

El uso de la tecnología de IA en Whitehall abarca desde el sistema Copilot de Microsoft hasta las verificaciones automatizadas de fraude y errores en el sistema de beneficios. Otro aviso reciente de contrato de IA por parte del Departamento de Trabajo y Pensiones (DWP) describió «un crecimiento explosivo del interés dentro del DWP, que refleja el del gobierno y la sociedad en general».

Además de la policía, el Home Office también utiliza un sistema de aplicación de la inmigración habilitado con IA. Este sistema, que los críticos llaman «robo-caseworker», está involucrado en la configuración de decisiones, incluida la devolución de personas a sus países de origen.

El gobierno, sin embargo, lo ha descrito como un sistema «basado en reglas» en lugar de IA porque no implica aprendizaje automático a partir de datos. Según el gobierno, esto trae eficiencias, aunque un humano sigue siendo responsable de cada decisión.

Se informa que NHS England también tiene un contrato de 330 millones de libras con Palantir para construir una nueva plataforma de datos masiva, lo que aumenta aún más las preocupaciones sobre la privacidad de los pacientes. Palantir dijo que los pacientes conservan el control de los datos.

Un grupo de campaña por los derechos a la privacidad, Big Brother Watch, destacó que la aparición del contrato de reconocimiento facial de la policía, a pesar de que los diputados advertían sobre la falta de legislación para regularlo, mostró la falta de transparencia del gobierno sobre el uso de la tecnología de IA.

«El uso secreto de la IA y los algoritmos para impactar las vidas de las personas pone en riesgo los derechos de datos de todos», dijo Madeleine Stone, directora principal de defensa.

«Los departamentos gubernamentales deben ser abiertos y honestos sobre cómo utilizan esta tecnología».

Stone.

La directora asociada del organismo de investigación de datos e IA, Imogen Parker, también expresó preocupaciones sobre la falta de transparencia.

«La falta de transparencia no solo mantiene al público en la oscuridad, sino que también significa que el sector público está volando a ciegas en su adopción de la IA».

Parker.

«No publicar registros de transparencia algorítmica está limitando la capacidad del sector público para determinar si estas herramientas funcionan, aprender de lo que no funciona y monitorear los diferentes impactos sociales de estas herramientas», añadió Parker.