Según se informa, el gobierno del Reino Unido no incluye el uso de sistemas de inteligencia artificial en los registros obligatorios, lo que genera inquietud sobre cuestiones de transparencia.
Según The Guardian, el Secretario de Tecnología ha admitido desde entonces que los departamentos no son transparentes con respecto al uso de IA y algoritmos a pesar de que varios departamentos gubernamentales los utilizan para diversos fines.
Los departamentos gubernamentales del Reino Unido “vuelan a ciegas” sobre su uso de IA
El artículo de The Guardian revela que ningún departamento ha incluido el uso de IA desde que el gobierno indicó que sería obligatoria. Esto ha suscitado la preocupación de que el sector público esté actuando a ciegas.
Esto ocurre mientras los departamentos gubernamentales del Reino Unido ya utilizan la IA, por ejemplo, para fundamentar decisiones sobre todo tipo de cuestiones, desde el pago de prestaciones hasta la aplicación de las leyes de inmigración. Según The Guardian, algunos registros muestran que organismos públicos adjudicarontracpara servicios algorítmicos de IA.
Por ejemplo, el organismo de adquisiciones de la policía publicó recientemente untracpara reconocimiento facial por valor de 20 millones de dólares, lo que aumentó aún más las preocupaciones sobre la “vigilancia biométrica masiva”
Sin embargo, solo nueve sistemas algorítmicos se han presentado a un registro público, y ninguno de ellos forma parte del creciente número de programas de IA utilizados en el sistema de bienestar social por el Ministerio del Interior o la policía. En febrero, el gobierno del Reino Unido anunció que el uso de registros de IA sería ahora un requisito para todos los departamentos gubernamentales.
Cuando se le preguntó sobre la falta de transparencia, el secretario de Estado de Ciencia y Tecnología, Peter Kyle, admitió que el sector público "no se ha tomado lo suficientemente en serio la necesidad de ser transparente en la forma en que el gobierno utiliza los algoritmos"
“Acepto que si el gobierno utiliza algoritmos en nombre del público, el público tiene derecho a saberlo”
Kyle.
El público necesita sentir que los algoritmos están para servirle a él, y no al revés. La única manera de lograrlo es ser transparentes en su uso, añadió Kyle.
El gobierno del Reino Unido ignoró las advertencias
Según el artículo de The Guardian, los expertos advirtieron sobre los peligros de la IA si se adopta acríticamente, con ejemplos recientes de sistemas de TI que no funcionan como se esperaba, incluido el software Horizon de la Oficina Postal.
El uso de tecnología de IA en Whitehall abarca desde el sistema Copilot de Microsoft hasta la automatización de las verificaciones de fraude y errores en el sistema de prestaciones. Otro aviso reciente detracde IA del Departamento de Trabajo y Pensiones (DWP) describió «un creciente interés en el DWP, que refleja el del gobierno y la sociedad en general»
Además de la policía, el Ministerio del Interior también utiliza un sistema de control de inmigración basado en IA. Este sistema, al que los críticos llaman "robo-trabajador social", participa en la toma de decisiones, incluyendo el retorno de personas a sus países de origen.
Sin embargo, el gobierno lo ha descrito como un sistema "basado en reglas", a diferencia de un sistema de IA, ya que no implica aprendizaje automático a partir de datos. Según el gobierno, esto genera eficiencia, aunque un humano sigue siendo responsable de cada decisión.
Según informes, el NHS England también ha firmado untracde 330 millones de libras con Palantir para construir una enorme plataforma de datos, lo que aumenta la preocupación por la privacidad de los pacientes. Palantir afirmó que los pacientes conservan el control de los datos.
Un grupo de campaña de derechos a la privacidad, Big Brother Watch, destacó que la aparición del contrato de reconocimiento facial policial trac a pesar de que los parlamentarios advirtieron sobre la falta de legislación para regularlo, mostró la falta de transparencia del gobierno sobre el uso de la tecnología de IA.
“El uso secreto de IA y algoritmos para influir en la vida de las personas pone en riesgo los derechos de todos sobre los datos”, afirmó Madeleine Stone, directora de defensa.
“Los departamentos gubernamentales deben ser abiertos y honestos sobre cómo utilizan esta tecnología”
Piedra.
Imogen Parker, directora asociada del organismo de investigación de datos e inteligencia artificial, también expresó su preocupación por la falta de transparencia.
“La falta de transparencia no solo mantiene al público en la oscuridad, sino que también significa que el sector público está actuando a ciegas en su adopción de IA”
Parker.
“No publicar registros de transparencia algorítmica está limitando la capacidad del sector público para determinar si estas herramientas funcionan, aprender de lo que no funciona y monitorear los diferentes impactos sociales de estas herramientas”, agregó Parker.
