El proyecto de ley de regulación de IA de California avanza hacia el escritorio del Gobernador
- La Asamblea de California aprobó un proyecto de ley que exige a los desarrolladores de modelos de IA incorporar un 'interruptor de apagado' por motivos de seguridad.
- El proyecto de ley ha recibido el respaldo de expertos en IA, pero se opone a restringir la innovación y la investigación académica.
- El Gobernador de California, Gavin Newsom, debe aprobar el proyecto de ley y convertirlo en ley o rechazarlo antes del 30 de septiembre.
Un proyecto de ley muy debatido que regula la inteligencia artificial (IA) ha superado un obstáculo significativo en la legislatura de California. SB-1047, un proyecto de ley que tiene como objetivo regular los grandes modelos de IA por seguridad, ha sido aprobado por la Asamblea Estatal de California con 45 votos a favor y 11 en contra.
El proyecto de ley, que fue aprobado por el Senado estatal en mayo con un voto de 32 a 1, se espera que pase otro voto procedural en el Senado antes de ser enviado para la firma del Gobernador Gavin Newsom.
Los expertos en IA apoyan el proyecto de ley para abordar las posibles amenazas de la IA
SB-1047 requiere que los desarrolladores de IA a gran escala entrenados con un costo superior a 100 millones de dólares incorporen un ‘interruptor de apagado’ que detenga la IA en caso de que desarrolle efectos adversos en el público. Este enfoque es particularmente relevante en casos en los que un sistema de IA debe funcionar con intervención humana mínima y pueden ocurrir escenarios de peor caso.
Los partidarios de la aprobación del proyecto de ley afirman que, dado que las tecnologías avanzadas de IA se están volviendo más autónomas, este proyecto de ley es necesario para abordar los riesgos que conlleva. El autor del proyecto de ley y el senador estatal Scott Weiner señaló que personalidades como Geoffrey Hinton y Yoshua Bengio, expertos líderes en IA, expresaron preocupaciones sobre las posibles amenazas que la IA podría traer.
El año pasado, Hinton y Bengio fueron entre los firmantes de una declaración que decía que si la IA no se controla adecuadamente, podría llevar a la extinción humana.
Los críticos expresan preocupaciones sobre el impacto del proyecto de ley en la innovación
Sin embargo, SB-1047 ha sido recibido con muchas críticas por parte de los partidarios de la investigación y los negocios de IA. Algunos han argumentado que este proyecto de ley está más preocupado por los riesgos que pueden surgir en el futuro en lugar de concentrarse en los actuales, como los deepfakes y las noticias falsas.
Fei-Fei Li, directora del Instituto de Inteligencia Artificial Centrada en el Humano de Stanford, se ha mostrado en contra del proyecto de ley. Según Li, en su editorial reciente, la legislación es una amenaza para la innovación porque los desarrolladores tienen mucha exposición a la responsabilidad. Señaló que esto podría desalentar el intercambio de modelos y pesos de IA en formato de código abierto, que son esenciales para los académicos y la colaboración.
Los líderes empresariales de California firmaron una carta abierta pidiendo a Newsom que vetara el proyecto de ley, al que calificaron de “fundamentalmente defectuoso”. Con SB-1047 encaminándose hacia su promulgación, el Gobernador Gavin Newsom tiene hasta el 30 de septiembre para aprobar el proyecto de ley.
En mayo de este año, en un simposio en la UC Berkeley, el gobernador Newsom aceptó que la regulación adecuada es una línea fina. Plantó preocupaciones de que el estado podría quedar en una “situación muy precaria” debido a la sobre-regulación. Sin embargo, Newsom también reconoció la necesidad de la regulación en cierta medida, ya que los representantes de la industria de la IA plantearon ciertas preguntas.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
