Colorado Lidera el Esfuerzo por Regular la IA para Combatir la Discriminación

Colorado ha tomado la delantera en la regulación de sistemas de inteligencia artificial que influyen en la contratación, la vivienda y las decisiones médicas. Se han propuesto siete proyectos de ley, uno de los cuales ya ha sido aprobado, con el objetivo de regular el enfoque sesgado de la IA hacia la toma de decisiones importantes. 

También lea: Se forma el Comité Asesor Nacional de IA para abordar la regulación de la IA

A pesar de la oposición, el gobernador de Colorado, Jared Polis, firmó el proyecto de ley el viernes con cierta reticencia. Este proyecto de ley obliga a las organizaciones a evaluar el riesgo de discriminación por parte de la IA, establecer programas de monitoreo y notificar a los consumidores si la IA está involucrada en la toma de decisiones.

Colorado Adopta Reluctemente la Ley de Responsabilidad de la IA

El proyecto de ley de Colorado, similar a los de Washington y Connecticut, no fue bien recibido por los grupos de derechos civiles, la industria tecnológica, los legisladores cautelosos y los gobernadores preocupados. Estos proyectos de ley buscan abordar el sesgo de la IA en áreas críticas como el empleo, la vivienda y la atención médica.

Ha habido mucha resistencia a las llamadas a la regulación debido a la complejidad de la tecnología y la posibilidad de limitar su desarrollo. El gobernador Polis también expresó preocupaciones sobre el proyecto de ley, enfatizando que no debería obstaculizar el desarrollo de la IA. 

El Proyecto de Ley Obliga a Evaluaciones de Sesgo de IA y Notificaciones a Clientes

La legislación de Colorado, y los seis proyectos de ley similares, requieren que las organizaciones evalúen el posible sesgo de los sistemas de IA. Algunas de las empresas que utilizan IA en sus operaciones deben notificar a los clientes cada vez que se tomen decisiones importantes que les afecten mediante IA. Este enfoque busca mejorar la transparencia y la responsabilidad de las aplicaciones de IA.

También lea: La regulación de la IA despierta el debate entre gigantes tecnológicos y reguladores

La iniciativa llega en medio de debates legislativos más amplios, con más de 400 proyectos de ley relacionados con la IA este año. Estos proyectos de ley se centran principalmente en aspectos específicos de la IA, como los deepfakes y la pornografía con IA. Estos siete ambiciosos proyectos de ley se centran en la discriminación, una de las preocupaciones más desafiantes y universales de la IA. 

Rumman Chowdhury, especialista en inteligencia artificial del Departamento de Estado de EE. UU., declaró:

“En realidad, no tenemos visibilidad sobre los algoritmos que se utilizan, si funcionan o no, o si somos discriminados.”

La Discriminación por IA se Oculta en la Contratación, la Vivienda y la Atención Médica

La legislación actual contra la discriminación no cubre adecuadamente los problemas derivados del uso de la IA. Christine Webber, abogada de derechos civiles, señaló que la IA puede amplificar los prejuicios a un nivel mucho mayor que un único tomador de decisiones.

“No, debería decir que los sistemas antiguos tampoco estaban completamente libres de sesgos; una sola persona solo podía revisar una cantidad limitada de currículums por día. Por lo tanto, solo se podían tomar una cantidad limitada de decisiones sesgadas en un día, mientras que la computadora puede hacerlo rápidamente con grandes cantidades de personas.”

Christine Webber

También lea: La Unión Europea (UE) toma la delantera en la regulación de la IA

El caso de Webber es un ejemplo perfecto de cómo la IA puede materializar la discriminación, con un caso que acusa a una herramienta de IA para solicitudes de alquiler de dar puntuaciones más bajas a personas negras e hispanas. Este problema también afecta al campo médico, donde se ha observado que los sistemas de IA niegan a los pacientes negros cuidados especiales basándose en sus evaluaciones sesgadas. El proyecto de ley de Colorado intenta abordar estas preocupaciones mediante un escrutinio anual de los sistemas de IA en busca de sesgos, regulación interna y la presentación de resultados discriminatorios al fiscal general del estado. 

Las Empresas Resistirán la Transparencia, Temiendo la Exposición de Secretos Comerciales

Aunque la intención del proyecto de ley es promover la transparencia y la responsabilidad, existen algunas preocupaciones entre la industria de la IA. Mientras que las grandes empresas de IA tienden a aprobar estas medidas, las empresas a pequeña escala las ven potencialmente demasiado complejas. Logan Cerkovnik, fundador de Thumper.ai, declaró que:

“Tener una legislación demasiado restrictiva que nos obligue a definir y restrinja nuestro uso de la tecnología mientras esta se está desarrollando solo será perjudicial para la innovación.”

Las empresas de IA también lograron incluir una cláusula para impedir que cualquier persona, además del fiscal general del estado, demande por la ley. La acción estatal en Colorado también llega mientras el Congreso sopesa las reglas federales de IA. El Congreso aún no ha aprobado ningún proyecto de ley que regule la IA, pero el líder de la mayoría en el Senado, Chuck Schumer, publicó un informe la semana pasada con directrices para la regulación de la IA.

Reportaje de Cryptopolitan por Brenda Kanana