Colorado ha tomado la iniciativa en la regulación de los sistemas de inteligencia artificial que influyen en las decisiones de contratación, vivienda y atención médica. Se han propuesto siete proyectos de ley, uno de los cuales ya ha sido aprobado, con el objetivo de regular el enfoque sesgado de la IA en la toma de decisiones importantes.
Lea también: Se forma un Comité Asesor Nacional de IA para abordar la regulación de la IA
A pesar de la oposición, el gobernador de Colorado, Jared Polis, firmó el proyecto de ley con reticencias el viernes. Este proyecto de ley obliga a las organizaciones a evaluar el riesgo de discriminación por parte de la IA, establecer programas de monitoreo y notificar a los consumidores si la IA participa en la toma de decisiones.
Colorado adopta a regañadientes la ley de responsabilidad de la IA
El proyecto de ley de Colorado, al igual que los de Washington y Connecticut, no fue bien recibido por grupos de derechos civiles, la industria tecnológica, legisladores cautelosos y gobernadores preocupados. Estos proyectos de ley buscan abordar el sesgo de la IA en áreas cruciales como el empleo, la vivienda y la atención médica.
Ha habido mucha resistencia a las demandas de regulación debido a la complejidad de la tecnología y la posibilidad de limitar su desarrollo. El gobernador Polis también expresó su preocupación por el proyecto de ley, enfatizando que no debería frenar el desarrollo de la IA.
Proyecto de ley exige evaluaciones de sesgo de IA y notificaciones a clientes
La legislación de Colorado y seis proyectos de ley similares exigen que las organizaciones evalúen el posible sesgo de los sistemas de IA. Algunas empresas que utilizan IA en sus operaciones deben notificar a sus clientes cuando se toman decisiones importantes que los involucran mediante IA. Este enfoque busca mejorar la transparencia y la rendición de cuentas de las aplicaciones de IA.
Lea también: La regulación de la IA genera debate entre gigantes tecnológicos y reguladores
La iniciativa surge en medio de debates legislativos más amplios, con más de 400 proyectos de ley relacionados con la IA este año. Estos proyectos se centran principalmente en aspectos específicos de la IA, como los deepfakes y la pornografía con IA. Estos siete ambiciosos proyectos de ley se centran en la discriminación, una de las preocupaciones más complejas y universales de la IA.
Rumman Chowdhury, especialista en inteligencia artificial del Departamento de Estado de EE. UU., afirmó:
“En realidad no tenemos visibilidad sobre los algoritmos que se utilizan, si funcionan o no, o si nos discriminan”
La discriminación por IA acecha en la contratación, la vivienda y la atención sanitaria
La legislación actual contra la discriminación no contempla adecuadamente los problemas derivados del uso de la IA. Christine Webber, abogada de derechos civiles, señaló que la IA puede amplificar los prejuicios a un nivel mucho mayor que el de un solo responsable de la toma de decisiones.
No es que los sistemas antiguos estuvieran completamente libres de sesgos; cada persona solo podía consultar un número limitado de currículums al día. Por lo tanto, solo se podían tomar ciertas decisiones sesgadas al día, y la computadora puede hacerlo rápidamente con un gran número de personas
Christine Webber
Lea también: La Unión Europea (UE) lidera la regulación de la IA
El caso de Webber es un ejemplo perfecto de cómo la IA puede generar discriminación. En un caso se acusa a una herramienta de IA para solicitudes de alquiler de otorgar puntuaciones más bajas a personas negras e hispanas. Este problema también afecta al ámbito médico, donde se ha observado que los sistemas de IA niegan atención especial a pacientes negros basándose en evaluaciones sesgadas. El proyecto de ley de Colorado busca abordar estas preocupaciones mediante el escrutinio anual de los sistemas de IA para detectar sesgos, la regulación interna y la notificación de resultados discriminatorios al fiscal general del estado.
Las empresas se resisten a la transparencia por temor a la exposición de secretos comerciales
Aunque la intención del proyecto de ley es promover la transparencia y la rendición de cuentas, existen ciertas preocupaciones en la industria de la IA. Si bien las grandes empresas de IA suelen aprobar estas medidas, las pequeñas las consideran potencialmente demasiado complejas. El fundador de Thumper.ai, Logan Cerkovnik, declaró que:
“Tener una legislación excesivamente restrictiva que nos obliga a defiy restringe nuestro uso de la tecnología mientras esto se está formando simplemente será perjudicial para la innovación”
Las empresas de IA también lograron imponer una cláusula que impide que cualquier persona, salvo el fiscal general del estado, demande por la ley. La acción estatal en Colorado también se produce mientras el Congreso considera las normas federales sobre IA. El Congreso aún no ha aprobado ningún proyecto de ley que regule la IA, pero el líder de la mayoría del Senado, Chuck Schumer, publicó la semana pasada un informe con directrices para su regulación.
Informe Cryptopolitan de Brenda Kanana
