Los defensores de la ética de la IA proponen licencias y canales de denuncia para prevenir escándalos como los de Correos

En respuesta al sonado escándalo de Correos, la Sociedad Británica de Informática (BCS) ha implementado medidas proactivas para prevenir injusticias similares. Con la creciente integración de la inteligencia artificial (IA) en diversos sectores, las normas éticas y la rendición de cuentas han cobrado una importancia primordial. 

Reconociendo el papel fundamental que desempeñan los profesionales de la IA en la configuración de los resultados sociales, BCS aboga por establecer un marco de licencias y canales de denuncia sólidos para protegerse contra prácticas poco éticas.

Licencias para profesionales de IA para la responsabilidad ética

BCS propone implementar un sistema de licencias similar al de los profesionales médicos para garantizar la transparencia y el cumplimiento de los principios éticos entre los profesionales de la IA. Rashik Parmar, MBE, director ejecutivo de BCS, subraya la importancia de responsabilizar a los profesionales de la IA por sus acciones, dado el profundo impacto de la IA en la vida de las personas. 

La iniciativa busca fomentar la confianza en el despliegue de IA sometiendo a los profesionales de IA a undent marco ético

Canales de denuncia: Mantener los estándares éticos en la implementación de la IA

Un elemento central de la estrategia de BCS es establecer canales sólidos de denuncia dentro de las organizaciones para abordar el uso poco ético de la IA. Reconociendo que los ejecutivos sin formación técnica suelen tomar decisiones clave sobre el desarrollo tecnológico, Parmar enfatiza la importancia de empoderar a los tecnólogos para que expresen sus inquietudes sin temor a represalias. 

Este enfoque proactivo tiene como objetivo mitigar el riesgo de prácticas discriminatorias, como decisiones de contratación sesgadas o el despliegue de tecnologías de vigilancia con implicaciones sociales adversas.

Aprendiendo del escándalo de Correos

El impulso para estas iniciativas proviene del grave error judicial que expuso el escándalo de Correos. La adquisición del defectuoso sistema de contabilidad Horizon en 1999 resultó en la condena injusta de cientos de gerentes de sucursales locales de Correos, devastando vidas y comunidades. 

El uso indebido de la evidencia generada por computadora por parte de personas no especializadas en TI subrayó la crucial necesidad de supervisión ética y rendición de cuentas en la implementación de la IA. Las trágicas consecuencias del escándalo de Correos sirven como un doloroso recordatorio de las profundas consecuencias de las intervenciones tecnológicas sin control.