Alboroto en el sector tecnológico de California por el proyecto de ley de IA propuesto

Las empresas de IA con sede en California están protestando contra el nuevo proyecto de ley que impone controles más estrictos al sector y potencialmente sofoca la innovación. El proyecto de ley propuesto obliga a las empresas a adherirse a un estricto marco de seguridad. Esto incluirá la creación de un «botón de apagado» para apagar sus potentes modelos de IA a medida que se intensifica la batalla por controlar el sector.  

 También lea: Abordar la amenaza de la IA engañosa: investigadores emiten una urgente advertencia

Algunas medidas propuestas bajo el proyecto de ley podrían afectar negativamente a empresas tecnológicas como Meta, mientras que también crearán restricciones para empresas emergentes de IA como OpenAI, Anthropic y Cohere.

El senado estatal aprobó el proyecto de ley el mes pasado y ahora está programado para una votación de su asamblea general en agosto de este año.

El proyecto de ley de California amenaza los modelos de IA de código abierto

Según arstechnica, las grandes empresas tecnológicas deben garantizar que nunca crearán modelos que sean dañinos para la sociedad, como las armas nucleares o que ayuden en ciberataques.

Sin embargo, el proyecto de ley propuesto está recibiendo una reacción negativa de algunos actores del sector, argumentando que esto tiene un efecto dominó en las startups que podrían verse obligadas a abandonar el estado. También podría impedir que grandes empresas como Meta publiquen sus modelos como código abierto.

«Si alguien quisiera establecer regulaciones para sofocar la innovación, difícilmente podría hacerlo mejor», dijo Andrew Ng, científico informático que dirigió proyectos de IA en Google y Baidu en China, y que forma parte de la junta directiva de Amazon.

«Crea enormes responsabilidades por riesgos de ciencia ficción, y por lo tanto alimenta el miedo en cualquiera que se atreva a innovar».

Arun Rao, gerente de producto principal de IA generativa en Meta, afirmó que el proyecto de ley «inviable» «pondría fin al código abierto (en California)».

Las protestas se esperan, según el senador Wiener

El senador estatal demócrata Scott Wiener, quien presentó el proyecto de ley, desestimó las críticas. Aunque enfrenta una reacción negativa por ser demasiado restrictivo, el legislador indicó que las protestas no son nada nuevo, proveniendo del sector tecnológico.

«Este es el sector tecnológico, no le gusta tener ninguna regulación, por lo que no me sorprende en absoluto que haya una resistencia».

Senador Scott Wiener.

«Fundamentalmente, quiero que la IA tenga éxito y que la innovación continúe, pero intentemos adelantarnos a cualquier riesgo de seguridad», dijo.

La organización sin fines de lucro con sede en San Francisco Centro para la Seguridad de la IA (CAIS), dirigida por Dan Hendrycks, copatrocinó el proyecto de ley de California.

También lea: 'Padrino de la IA' pide una renta básica universal para cubrir las pérdidas de empleo por la IA

Hendrycks apoyó el proyecto de ley, diciendo que podría ayudar a abordar uno de los problemas del sector: recortar costos en un momento en que la gente también quiere «alguna supervisión básica».

«Existen estas presiones competitivas que afectan a estas organizaciones de IA y las incentivan a recortar costos en seguridad».

El sector de la IA ha experimentado un rápido crecimiento, lo que también ha generado preocupaciones sobre la seguridad de la tecnología. El año pasado, el multimillonario tecnológico Elon Musk calificó a la IA como un «amenaza para la humanidad».

Reporte de Cryptopolitan por Enacy Mapakame