El proyecto de ley de regulación de la IA en California avanza al escritorio del gobernador

Un proyecto de ley muy debatido que regula la inteligencia artificial (IA) ha superado un obstáculo importante en la legislatura de California. El SB-1047, un proyecto de ley que busca regular los modelos de IA a gran escala para fines de seguridad, ha sido aprobado por la Asamblea Estatal de California con 45 votos a favor y 11 en contra. 

Se espera que el proyecto de ley, que fue aprobado por el Senado estatal en mayo con una votación de 32 a 1, pase una votación de procedimiento más en el Senado antes de ser enviado para la firma del gobernador Gavin Newsom. 

Expertos en IA apoyan proyecto de ley para abordar posibles amenazas a la IA

La ley SB-1047 exige que los desarrolladores de IA a gran escala, entrenada con un costo superior a los 100 millones de dólares, incorporen un mecanismo de seguridad que desactive la IA en caso de que genere efectos adversos para el público. Este enfoque es particularmente relevante en los casos en que un sistema de IA debe funcionar con una mínima intervención humana y pueden presentarse escenarios catastróficos. 

Quienes apoyan la aprobación del proyecto de ley afirman que, dado que las tecnologías avanzadas de IA se están volviendo más autosuficientes, este proyecto es necesario para abordar los riesgos que conlleva. El autor del proyecto de ley y senador estatal Scott Weiner señaló que personalidades como Geoffrey Hinton y Yoshua Bengio, destacados expertos en IA, expresaron su preocupación por las posibles amenazas que esta podría traer.

El año pasado, Hinton y Bengio estuvieron entre los firmantes de una declaración que decía que si la IA no se controla adecuadamente, podría conducir a la extinción humana. 

Los críticos expresan preocupación por el impacto del proyecto de ley en la innovación

Sin embargo, la SB-1047 ha recibido numerosas críticas por parte de los defensores de la investigación y el sector de la IA. Algunos argumentan que este proyecto de ley se centra más en los riesgos que podrían surgir en el futuro que en los actuales, como las falsificaciones profundas y las noticias falsas. 

Fei-Fei Li, directora del Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford, se ha mostrado enérgica contra el proyecto de ley. Según Li, en un editorial reciente, la legislación supone una amenaza para la innovación, ya que los desarrolladores están muy expuestos a responsabilidades. Señaló que esto podría desincentivar el intercambio de modelos y ponderaciones de IA en formato de código abierto, esenciales para el ámbito académico y la colaboración.

Los líderes empresariales de California firmaron una carta abierta solicitando a Newsom que vete el proyecto de ley, que, según ellos, presentaba "fallos fundamentales". Con la SB-1047 a punto de promulgarse, el gobernador Gavin Newsom tiene hasta el 30 de septiembre para aprobarlo.

En mayo de este año, durante un simposio en la Universidad de California en Berkeley, el gobernador Newsom coincidió en que la regulación adecuada es un tema delicado. Expresó su preocupación de que el estado pudiera encontrarse en una situación muy precaria debido a un exceso de regulación. Sin embargo, Newsom también reconoció la necesidad de cierta regulación, dado que los representantes de la industria de la IA plantearon algunas preguntas.