Senador de Colorado establecerá políticas de seguridad para el uso de IA

En un paso significativo hacia un uso más seguro de la IA, el senador John Hickenlooper de Colorado ha iniciado un plan para crear políticas de auditoría de la IA. Con el objetivo de crear estándares claros para las comprobaciones de los sistemas de IA, Hickenlooper ha recabado información de expertos del sector y actores clave. Esta iniciativa busca orientar la elaboración de legislación que garantice la eficacia y la seguridad de las tecnologías de IA.

Estándares de elaboración en Colorado

La estrategia de Hickenlooper implica un esfuerzo colaborativo liderado por el Departamento de Comercio. El objetivo es desarrollar estándares voluntarios que sirvan de guía para las auditoríasdent de las tecnologías de IA. En un discurso pronunciado en febrero, Hickenlooper destacó la importancia de la supervisión externa para la industria de la IA, citando la necesidad de evitar la autorregulación dados los posibles riesgos que conlleva. 

Si no tenemos cuidado y no orientamos la IA en esa dirección, podría acabar desplazando a un gran número de trabajadores sin tener en cuenta sus próximas acciones. Este es solo un ejemplo de las miles de decisiones que se toman hoy que tendrán consecuencias para generaciones futuras, declaró el senador Hickenlooper. 

Al involucrar a terceros calificados en la auditoría de los sistemas de IA, la iniciativa busca garantizar el cumplimiento de las leyes federales y protegerse contra daños imprevistos. 

Detalles del cuestionario

La oficina del senador ha distribuido un cuestionario que cubre aspectos clave de la auditoría del sistema de IA, incluida la frecuencia, el alcance de las auditorías, los requisitos de transparencia, el cumplimiento y el ecosistema de auditoría en general.

Este cuestionario, recopilado por Nextgov/FCW, está diseñado para recopilar información detallada que ayudará a defiestándares de auditoría efectivos y prácticos. Uno de los puntos clave es cómo estos estándares podrían adaptarse a las diferentes etapas del desarrollo de software, abordando los desafíos específicos que plantean los procesos de desarrollo anteriores y posteriores.

La práctica de evaluar las entradas y salidas de un sistema de IA para obtener resultados seguros y de alta calidad por parte de un tercero se conoce como auditoría de IA. La oficina de Hickenlooper verificó el origen de las preguntas y afirmó que se utilizarán para orientar futuras iniciativas legislativas, así como el marco regulatorio que presentó a principios de febrero.

Hickenlooper plantea una pregunta muy exhaustiva sobre el alcance de la auditoría. El legislador aborda principalmente el desarrollo previo y posterior al plantear la cuestión de cómo deberían modificarse los criterios de auditoría prospectiva para los desarrolladores que operan en toda la arquitectura del software.

Además, también pregunta si se pueden incorporar a los estándares de auditoría de IA requisitos adicionales, como el acceso a datos de entrenamiento de modelos de IA, evaluaciones directas de los resultados del sistema, pruebas de verificación interna y evaluaciones cualitativas. 

Mediante este enfoque proactivo, Hickenlooper sienta las bases para un marco regulatorio que promete hacer que las tecnologías de IA sean más seguras y confiables. Al priorizar la transparencia, el cumplimiento normativo y el bienestar de la sociedad, esta iniciativa representa un avance crucial en el desarrollo y la implementación responsables de la IA.