Conmoción en el sector tecnológico de California por el proyecto de ley de inteligencia artificial

Las empresas de IA con sede en California protestan contra el nuevo proyecto de ley de IA, que impone controles más estrictos al sector y podría frenar la innovación. El proyecto de ley obliga a las empresas a adherirse a un estricto marco de seguridad. Esto incluirá la creación de un "interruptor de seguridad" para desactivar sus potentes modelos de IA a medida que se intensifica la lucha por el control del sector.  

 Lea también: Abordar la amenaza de la IA engañosa: los investigadores emiten una advertencia urgente

Algunas de las medidas propuestas en el proyecto de ley podrían afectar negativamente a empresas tecnológicas como Meta, al tiempo que también crearán restricciones para empresas emergentes de inteligencia artificial como OpenAI, Anthropic y Cohere.

El Senado estatal aprobó el proyecto de ley el mes pasado y ahora está previsto que sea sometido a votación en su asamblea general en agosto de este año.

El proyecto de ley de California amenaza los modelos de inteligencia artificial de código abierto

Según arstechnica, las grandes empresas tecnológicas deben garantizar que nunca crearán modelos que sean perjudiciales para la sociedad, como armas nucleares o ataques cibernéticos.

Sin embargo, el proyecto de ley está recibiendo críticas de algunos actores del sector, quienes argumentan que esto tiene un impacto en las startups, que podrían verse obligadas a abandonar el estado. También podría impedir que grandes empresas como Meta publiquen sus modelos en código abierto.

"Si alguien quisiera crear regulaciones para sofocar la innovación, difícilmente podría hacerlo mejor", dijo Andrew NG, un científico informático que dirigió proyectos de inteligencia artificial en Google y Baidu de China, y es miembro del directorio de Amazon.

“Crea enormes riesgos propios de la ciencia ficción y, por lo tanto, genera temor en cualquiera que se atreva a innovar”

Arun Rao, jefe de producto de IA generativa en Meta, afirmó que el proyecto de ley, al que calificó de "inviable", "acabaría con el código abierto (en California)".

Se esperan protestas, según el senador Wiener

El senador estatal demócrata Scott Wiener, quien presentó el proyecto de ley, restó importancia a las críticas. Aunque enfrentó críticas por ser excesivamente restrictivo, el legislador indicó que las protestas no eran nuevas y provenían del sector tecnológico.

“Este es el sector tecnológico y no le gusta ningún tipo de regulación, así que no me sorprende en absoluto que haya resistencia”

Senador Scott Wiener.

“Fundamentalmente quiero que la IA tenga éxito y que la innovación continúe, pero tratemos de anticiparnos a cualquier riesgo de seguridad”, dijo.

La organización sin fines de lucro con sede en San Francisco, Center for AI Safety (CAIS), dirigida por Dan Hendrycks, copatrocinó el proyecto de ley de California.

Lea también: El "padrino de la IA" propone una renta básica universal para compensar la pérdida de empleos en el sector de la IA.

Hendrycks apoyó el proyecto de ley, diciendo que podría ayudar a abordar uno de los problemas de los sectores: tomar atajos en un momento en que la gente también quiere "cierta supervisión básica"

“Existen presiones competitivas que afectan a estas organizaciones de IA y que las incentivan a recortar gastos en seguridad”

El sector de la IA ha experimentado un rápido crecimiento, lo que también ha generado preocupación sobre la seguridad de esta tecnología. El año pasado, el multimillonario tecnológico Elon Musk calificó a la IA como una "amenaza para la humanidad".

Informe Cryptopolitan de Enacy Mapakame