Nueva York presenta un proyecto de ley para publicitar las herramientas de IA utilizadas por las agencias de la ciudad

Esta semana, Jennifer Gutiérrez, concejala del Ayuntamiento de Nueva York, presenta un proyecto de ley que busca requerir que la ciudad elabore una lista de herramientas de inteligencia artificial aprobadas para su uso por sus agencias. Esta lista, que estará disponible para el público el 1 de febrero de 2025, tiene como objetivo crear conciencia y transparencia sobre las herramientas de inteligencia artificial en uso en diferentes departamentos de la ciudad.

La legislación propuesta busca aumentar la conciencia del público sobre el uso de tecnologías de IA por parte de la ciudad. Gutiérrez señaló que el propósito es que los neoyorquinos estén muy conscientes de cómo estas tecnologías están afectando sus vidas, especialmente en lo que respecta al uso de sus datos. La lista también promoverá la responsabilidad y ayudará a las agencias a colaborar de manera más efectiva al utilizar herramientas de IA.

Nueva York avanza para impulsar la rendición de cuentas de la IA y fomentar la colaboración

La legislación requiere que se incluya una descripción de los datos a los que accede cada aplicación de IA. Gutiérrez explicó que esto le dirá al público qué tipo de decisiones tomarán las agencias de la ciudad basándose en los datos. Esto asegura que las personas sean notificadas de cómo la IA es útil, o no, para ellas. Además, esta lista se actualizará cada seis meses, aunque podrían haber actualizaciones más regulares basadas en los comentarios recibidos en una audiencia regular.

Al hacer esta información disponible para el público, la legislación busca abordar la falta existente en la comprensión de cómo se utiliza la IA dentro de la ciudad. Gutiérrez afirma que ni el consejo ni el público entienden completamente qué herramientas de IA se utilizan y con qué propósito. Este proyecto de ley cerrará esa brecha y sentará las bases para cultivar una mejor comunicación entre agencias que por lo general no colaboran.

Nueva York toma medidas para frenar el gasto excesivo en IA y mejorar la eficiencia

Otra característica crítica de la ley es su potencial capacidad para ahorrar recursos que de otra manera se habrían gastado en aplicaciones de IA ineficaces. El movimiento de hacer la lista pública y transparente ayudará a la ciudad a justificar su gasto ante los neoyorquinos. La lista podría ser tan simple como una hoja de cálculo o podría ser un mecanismo de seguimiento más complejo que avance con la introducción de nuevas herramientas de IA.

Esta legislación, a diferencia de intentos anteriores de regular el uso de la IA, no tiene la intención de limitar las herramientas que utilizan las agencias. Sin embargo, busca responsabilidad, requiriendo que el uso de estas herramientas sea intencional y bien justificado para los residentes de la ciudad. Se anticipa que este enfoque permitirá a la ciudad evitar incurrir en costos por herramientas que son inútiles para el público.

La introducción del proyecto de ley coincide con los desarrollos que se están realizando sobre la inteligencia artificial en la Ciudad de Nueva York. Después de su introducción, habrá una audiencia para explorar la nueva legislación y otros proyectos de ley relacionados con la IA relacionados con esta legislación. El consejo busca escuchar evidencia de funcionarios de la ciudad y del público antes de la enmienda y la votación final de este proyecto de ley.