Dos ex investigadores de OpenAI, Daniel Kokotajlo y William Saunders, expresaron su descontento con la postura de la compañía sobre el proyecto de ley de regulación de la IA de California, SB 1047. Habían renunciado a la compañía a principios de este año, citando problemas de seguridad derivados de la alta tasa de desarrollo de la IA.
En una carta a Politico, expresaron su desacuerdo con la postura de OpenAI sobre este proyecto de ley, diciendo que no es aplicable a las apelaciones anteriores de la compañía para la regulación de la IA. La carta plantea una preocupación más amplia por la gestión y seguridad de la IA. Según Kokotajlo y Saunders, la oposición de OpenAI a la SB 1047 revela la actitud irresponsable de la organización hacia la creación de IA.
"Sam Altman, nuestro exjefe, ha pedido repetidamente que se regule la IA", escribieron Kokotajlo y Saunders. "Ahora, cuando la regulación real está sobre la mesa, él se opone".
OpenAI defiende su posición y pide una regulación federal
Han destacado que la misión de Aidos es desarrollar AGI de forma segura, pero los pasos que está dando la empresa son contrarios a esta misión. Los investigadores pidieron al gobernador de California, Gavin Newsom, que aprobara el proyecto de ley para poder tomar mejores precauciones de seguridad con la tecnología de inteligencia artificial.
En respuesta a la carta de los ex investigadores, un representante de OpenAI compartió una declaración negando las acusaciones de caracterización errónea. El portavoz también señaló que OpenAI respalda algunos de los proyectos de ley de seguridad de la IA en el Congreso y afirma que deberían regularse a nivel federal porque representan una amenaza a la seguridad nacional y afectan la competitividad del país en el escenario mundial.
OpenAI ha expresado su opinión sobre la necesidad de una regulación adecuada de la IA, pero quiere que el asunto se aborde a nivel federal. Según la empresa, sólo la legislación federal puede proporcionar un enfoque más eficaz para las soluciones legales a los peligros de las tecnologías de inteligencia artificial de vanguardia y un régimen jurídico unido en todo el país.
Anthropic adopta una postura diferente sobre la legislación de IA de California
Por otro lado, Anthropic, el competidor de OpenAI, ha dado la bienvenida a la SB 1047 pero ha propuesto algunos cambios. El director general de la empresa, Dario Amodei, que solía trabajar en OpenAI, se mostró más moderado en su opinión sobre el proyecto de ley. Amodei escribió una carta al gobernador Newsom afirmando que, aunque el proyecto de ley tiene sus ventajas, la versión actual con enmiendas incluidas es rentable y beneficiosa.
El respaldo de Anthropic al proyecto de ley indica un enfoque distinto para la gobernanza de la IA. El aval de la empresa, junto con las modificaciones propuestas. Esto es diferente del enfoque federal que ha apoyado OpenAI. El destino de la SB 1047 probablemente afectará los futuros debates a nivel estatal y federal.
Academia Cryptopolitan: ¿Cansado de columpios del mercado? Aprenda cómo DeFi puede ayudarlo a generar ingresos pasivos constantes. Registrarse ahora
