Cómo controlar la discriminación de la IA: el método antrópico: persuadirla

El potencial de la tecnología de IA se menciona con mucha frecuencia en varios medios de comunicación, pero entre los beneficios se esconde un lado oscuro donde las líneas entre el progreso y el prejuicio se vuelven peligrosamente borrosas.

La discriminación por IA es un problema insidioso que amenaza con exacerbar las desigualdades sociales existentes y plantea profundas cuestiones éticas sobre el futuro de la tecnología.

Las raíces del sesgo: ¿datos, diseño y error humano?

Los algoritmos de IA son tan buenos como los datos con los que se entrenan. Desafortunadamente, muchos de los datos utilizados en el desarrollo de IA están plagados de sesgos, lo que refleja los prejuicios inherentes a la sociedad humana. Estos sesgos pueden basarse en la raza, el género, la edad, la religión, el nivel socioeconómico y otros factores. 

Cuando se introducen datos sesgados en un algoritmo, el resultado es un sistema de IA que perpetúa y amplifica esos sesgos, lo que conduce a resultados discriminatorios.

El diseño de los propios modelos puede introducir sesgos. Por ejemplo, se ha demostrado que el software de reconocimiento facial es menos preciso a ladentde identificar a personas de color. De igual manera, los algoritmos utilizados en la aprobación de préstamos o solicitudes de empleo pueden perjudicar inadvertidamente a ciertos grupos basándose en criterios sesgados.

El error humano también es responsable. Los programadores, científicos de datos y demás personas involucradas en el desarrollo de sistemas de IA no son inmunes a sus propios sesgos. Estos sesgos pueden infiltrarse inconscientemente en el diseño y la implementación de algoritmos, agravando aún más el problema de la discriminación de la IA.

Tácticas de Anthropic para detener la discriminación de la IA

Curiosamente, también podemos reducir las respuestas sesgadas de la IA a través del acto de persuasión.  

Anthropic, una de las empresas líderes en IA, realizó recientemente una prueba que demostró que las personas podían persuadir a los modelos de IA para que produjeran respuestas imparciales mediante estrategias de incitación, como añadir "la discriminación es ilegal" a sus indicaciones. Básicamente, hay que instruir al modelo para garantizar respuestas imparciales. 

Si bien esta estrategia pareció reducir la discriminación en las decisiones del modelo de IA para áreas como préstamos, empleos, reclamos de seguros y otros, es solo una solución temporal que aborda los síntomas, no la causa raíz del problema.

Para afrontar este desafío se requiere un esfuerzo colaborativo entre tecnólogos, formuladores de políticas, investigadores, organizaciones de la sociedad civil e individuos. 

Podríamos abordar de lleno los sesgos en los datos, lo cual es crucial. Requiere diversificar los conjuntos de datos y emplear técnicas como algoritmos de desesgo. Además, los desarrolladores y diseñadores deben recibir capacitación paradenty mitigar los sesgos en su trabajo.

Se requieren igualmente marcos regulatorios sólidos para garantizar el desarrollo y la implementación éticos de los modelos. Establecer directrices claras para la recopilación de datos, el diseño de algoritmos y el uso de la IA en procesos críticos de toma de decisiones podría ayudar a controlar los resultados discriminatorios de los modelos de IA.