La integración apresurada de IA por parte del gobierno del Reino Unido alimenta el sesgo y la discriminación
IA
- La rápida adopción de IA en el Reino Unido genera sesgos, lo que suscita dudas sobre su comprensión de la tecnología.
- Los ajustes faciales de la Policía de Londres reducen la precisión para las personas negras; la IA del DWP identifica a más búlgaros, arriesgando daños financieros.
- Los usos indebidos de la IA ponen de manifiesto los errores humanos, exigiendo mejores regulaciones para un uso más justo de la IA gubernamental.
En los últimos años, la rápida integración de la tecnología de IA por parte del gobierno del Reino Unido en varios procedimientos administrativos ha generado una preocupación significativa entre críticos y expertos. Un informe de The Guardian puso de manifiesto múltiples instancias en las que la incorporación de la IA ha resultado en consecuencias adversas, particularmente en lo que respecta a sesgos raciales y prácticas discriminatorias, planteando preocupaciones profundas sobre la comprensión y gestión del gobierno de los defectos de la tecnología.
El uso de sistemas de reconocimiento facial por parte de la Policía Metropolitana de Londres ha atraído considerables críticas debido a su aparente sesgo contra individuos con tonos de piel más oscuros. A pesar de la conciencia de las autoridades sobre sus deficiencias, las modificaciones recientes realizadas para acelerar la identificación de sospechosos han impactado adversamente la precisión del sistema, particularmente para las personas negras. Los hallazgos del Laboratorio Nacional de Física indican que una reducción en la sensibilidad ha llevado a una disminución cinco veces mayor en la precisión para identificar a personas negras, en comparación con sus contrapartes blancas.
Las herramientas de IA del gobierno exhiben sesgo en la aprobación de beneficios y licencias de matrimonio.
Han surgido instancias de prácticas discriminatorias dentro de los sistemas impulsados por IA del gobierno, lo que ha llevado a un trato injusto de ciertas nacionalidades. El Departamento de Trabajo y Pensiones (DWP) enfrentó severas críticas después de que un sistema diseñado para detectar el fraude en beneficios supuestamente marcara un número desproporcionado de nacionales búlgaros, lo que potencialmente podría llevar a suspensiones injustificadas de beneficios y dificultades financieras. La limitada comprensión del DWP de los mecanismos internos de la IA y su renuencia a divulgar información relevante han exacerbado las preocupaciones sobre la integridad del sistema y sus posibles sesgos.
De manera similar, el uso por parte del Ministerio del Interior del Reino Unido de la tecnología de IA para identificar matrimonios fraudulentos ha generado un número sustancial de falsos positivos, afectando particularmente a solicitantes de Grecia, Albania, Bulgaria y Rumania. Estos hallazgos subrayan la necesidad urgente de una mayor supervisión y transparencia en la implementación por parte del gobierno de herramientas impulsadas por IA.
El mal uso de la IA aumenta los riesgos, demostrando el factor humano
Incidentes recientes, incluido un caso en el que un abogado de EE. UU. intentó utilizar una herramienta impulsada por IA para referencias legales, solo para descubrir información fabricada, destacan los riesgos genuinos asociados con el mal uso y la mala comprensión de la IA. Estos sucesos enfatizan la importancia del error humano y la negligencia en el despliegue efectivo de la tecnología de IA.
La falta de perspectivas integrales y transparencia dentro de las instituciones gubernamentales complica aún más los desafíos asociados con la integración de la IA, obstaculizando la identificación y corrección de posibles sesgos y prácticas discriminatorias.
Si bien la IA promete mejorar la eficiencia y la precisión en diversos procesos gubernamentales, los desarrollos actuales subrayan la urgente necesidad de marcos regulatorios sólidos, supervisión integral y mayor transparencia en la integración de la IA. Abordar los defectos inherentes y los sesgos de los sistemas de IA es imperativo para garantizar resultados equitativos y justos para todas las personas afectadas por estas tecnologías.
El discurso en evolución sobre la implementación de la IA por parte del gobierno del Reino Unido refleja una necesidad apremiante de mayor responsabilidad y medidas proactivas para mitigar las prácticas discriminatorias y los sesgos en el ámbito de la tecnología de IA. A medida que continúan las discusiones, sigue siendo crucial que los responsables políticos y las partes interesadas colaboren para establecer directrices integrales que prioricen la equidad y la transparencia, fomentando en última instancia un uso más inclusivo y equitativo de la IA dentro de las instituciones gubernamentales.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Derrick Clinton
Derrick es un escritor freelance con interés en blockchain y criptomonedas. Trabaja principalmente en los problemas y soluciones de proyectos cripto, ofreciendo una perspectiva del mercado para inversiones. Aplica sus talentos analíticos a tesis.
