La ciudad de Nueva York presenta un proyecto de ley para dar a conocer las herramientas de inteligencia artificial que utilizan las agencias municipales

Esta semana, Jennifer Gutiérrez, concejala de la ciudad de Nueva York, presenta un proyecto de ley que exige a la ciudad elaborar una lista de las herramientas de inteligencia artificial aprobadas para su uso por sus agencias. Esta lista, que estará disponible al público a partir del 1 de febrero de 2025, tiene como objetivo generar conciencia y transparencia sobre las herramientas de inteligencia artificial utilizadas en los diferentes departamentos de la ciudad.

La legislación propuesta busca aumentar la conciencia pública sobre el uso de tecnologías de IA en la ciudad. Gutiérrez señaló que el objetivo es que los neoyorquinos sean plenamente conscientes de cómo estas tecnologías afectan sus vidas, especialmente en lo que respecta al uso de sus datos. La lista también promoverá la responsabilidad y facilitará una colaboración más eficaz entre las agencias al utilizar herramientas de IA.

La ciudad de Nueva York toma medidas para aumentar la rendición de cuentas en materia de IA y fomentar la colaboración

La legislación exige que se incluya una descripción de los datos a los que accede cada aplicación de IA. Gutiérrez explicó que esto informará al público sobre qué tipo de decisiones tomarán las agencias municipales con base en esos datos. De esta manera, se garantiza que la ciudadanía esté al tanto de la utilidad de la IA, o de su inutilidad. Además, esta lista se actualizará cada seis meses, aunque podría haber actualizaciones más frecuentes según las respuestas recibidas en las audiencias periódicas.

Al poner esta información a disposición del público, la legislación busca abordar la falta de comprensión sobre cómo se utiliza la IA en la ciudad. Gutiérrez afirma que ni el consejo ni la ciudadanía comprenden completamente qué herramientas de IA se utilizan ni con qué propósito. Este proyecto de ley cerrará esa brecha y sentará las bases para fomentar una mejor comunicación entre organismos que normalmente no colaboran.

La ciudad de Nueva York toma medidas para frenar el gasto excesivo en IA y mejorar la eficiencia

Otra característica fundamental de la ley es su potencial para ahorrar recursos que, de otro modo, se habrían destinado a aplicaciones de IA ineficaces. La decisión de hacer pública y transparente la lista ayudará a la ciudad a justificar su gasto ante los neoyorquinos. La lista podría ser tan sencilla como una hoja de cálculo o un mecanismo tracmás complejo que evolucione con la introducción de nuevas herramientas de IA.

Esta legislación, a diferencia de intentos anteriores de regular el uso de la IA, no pretende limitar las herramientas que utilizan las agencias. Sin embargo, busca la rendición de cuentas, exigiendo que el uso de estas herramientas sea útil y esté debidamente justificado para losdentde la ciudad. Se prevé que este enfoque permitirá a la ciudad evitar incurrir en costos por herramientas que resultan inútiles para el público.

La presentación del proyecto de ley coincide con los avances en inteligencia artificial en la ciudad de Nueva York. Tras su presentación, se celebrará una audiencia para analizar la nueva legislación y otros proyectos de ley relacionados con la IA. El consejo municipal busca escuchar testimonios de funcionarios de la ciudad y del público antes de la enmienda y la votación final del proyecto de ley.