Las grandes empresas tecnológicas en un aprieto debido a la Ley de IA de California

Las grandes empresas tecnológicas han expresado fuertes objeciones contra la ley de IA de California, sin embargo, en vano, ya que los legisladores ya están programados para votar sobre el proyecto de ley que tendrá un impacto en cómo se produce y utiliza la IA en el estado.

La factura conocida como SB 1047 fue impulsada por el senador estatal Scott Wiener y plantea problemas con los que las empresas no están contentas, aunque aún están muy interesadas en la regulación de la industria.

El proyecto de ley autoriza al fiscal general a litigar por incumplimiento

Entre las muchas cuestiones complejas, el proyecto de ley solicitará pruebas de seguridad para numerosos modelos de IA que requieren más de 100 dólares para desarrollarse o necesitan una cantidad definida de potencia de cómputo, según un informe de Reuters. Esta es una de las razones por las que el proyecto de ley ha enfrentado una intensa crítica de otros legisladores y entusiastas de la tecnología en Silicon Valley.

Otro factor es que los creadores de software de IA utilizado en el estado están obligados a proporcionar instrucciones sobre cómo desactivar sus modelos de IA, esencialmente un interruptor de apagado en caso de mal funcionamiento.

La factura también autoriza al fiscal general del estado a litigar si los creadores de la IA no cumplen. Esto se refiere específicamente a casos de una amenaza continua, por ejemplo, si la IA toma el control de servicios gubernamentales como la red eléctrica.

Según el informe de Reuters, para evaluar sus procesos de seguridad y brindar mayor protección a quienes denuncien el mal uso de la IA, la ley también requeriría que los desarrolladores contraten auditores independientes.

La ley ya fue aprobada por el Senado y la Asamblea Estatal la semana pasada. Ahora se espera que el final del período legislativo, el 31 de agosto, determine si la ley es aprobada. Se prevé que el gobernador Gavin Newsom firme la ley o la someta a veto antes del 30 de septiembre si es aprobada.

Reacciones mixtas tanto de las grandes empresas tecnológicas como de los legisladores

Un representante de San Francisco, Weiner, destacó la necesidad de regular la industria para proteger al público, antes de que la tecnología de IA se vuelva incontrolable.

Sin embargo, los demócratas del Congreso en California, incluidos Nancy Pelosi y Ro Khanna, se oponen a la ley; la primera afirmó que la propuesta carece de información adecuada. Pelosi añadió además que la ley hace menos bien al estado y expresó temores de que cause más daño.

También existen temores entre los demócratas de que la ley pueda forzar a los desarrolladores a salir del estado, poniendo en riesgo los modelos de IA de código abierto que dependen del código disponible públicamente que cualquiera puede usar o modificar.

Google de Alphabet y Meta han expresado preocupaciones sobre la ley, argumentando que amenazará la innovación en IA. Han enviado cartas a Weiner expresando sus inquietudes. Yann LeCun, científico jefe de la empresa matriz de Facebook, dijo en su publicación de julio en X que la ley podría ser perjudicial para los esfuerzos de investigación.

Por otro lado, Open AI ha declarado que la IA debe ser regulada por el gobierno federal, añadiendo que el SB 1047 crea un entorno incierto para el desarrollo de la IA.