Ex-pesquisadores da OpenAI criticam a oposição da empresa ao projeto de lei de IA da Califórnia

Dois ex-pesquisadores da OpenAI, Daniel Kokotajlo e William Saunders, expressaram seu descontentamento com a posição da empresa em relação ao projeto de lei de regulamentação de IA da Califórnia, o SB 1047. Eles deixaram a empresa no início deste ano, citando problemas de segurança decorrentes do alto ritmo de desenvolvimento de IA. 

Em carta ao Politico, eles expressaram sua discordância com a posição da OpenAI sobre o projeto de lei, afirmando que ele não se aplica aos apelos anteriores da empresa por regulamentação da IA. A carta levanta uma preocupação mais ampla sobre a gestão e a segurança da IA. Segundo Kokotajlo e Saunders, a oposição da OpenAI ao projeto de lei SB 1047 revela a atitude irresponsável da organização em relação à criação de IA. 

“Sam Altman, nosso antigo chefe, defendeu repetidamente a regulamentação da IA”, escreveram Kokotajlo e Saunders. “Agora, quando a regulamentação de fato está em discussão, ele se opõe a ela.” 

A OpenAI defende sua posição e pede regulamentação federal

Eles destacaram que a missão da Aidos é desenvolver Inteligência Artificial Geral (IAG) de forma segura, mas as medidas que a empresa está tomando são contrárias a essa missão. Os pesquisadores pediram ao governador da Califórnia, Gavin Newsom, que aprove o projeto de lei para que melhores precauções de segurança possam ser tomadas com a tecnologia de IA. 

Em resposta à carta dos ex-pesquisadores, um representante da OpenAI divulgou uma declaração negando as alegações de deturpação dos fatos. O porta-voz também observou que a OpenAI apoia alguns dos projetos de lei sobre segurança da IA ​​no Congresso e afirma que estes devem ser regulamentados em nível federal, pois representam uma ameaça à segurança nacional e afetam a competitividade do país no cenário mundial.

A OpenAI tem se manifestado veementemente sobre a necessidade de uma regulamentação adequada da IA, mas defende que a questão seja tratada em nível federal. Segundo a empresa, somente uma legislação federal pode oferecer uma abordagem mais eficaz para soluções legais diante dos perigos das tecnologias de IA de ponta e um regime jurídico unificado em todo o país. 

A Anthropic adota uma posição diferente em relação à legislação de IA da Califórnia

Por outro lado, a Anthropic, concorrente da OpenAI, acolheu bem o projeto de lei SB 1047, mas propôs algumas alterações. O CEO da empresa, Dario Amodei, que trabalhou na OpenAI, mostrou-se mais moderado em sua opinião sobre o projeto. Amodei escreveu uma carta ao governador Newsom afirmando que, embora o projeto tenha seus pontos positivos, a versão atual, com as emendas incluídas, é economicamente vantajosa e benéfica. 

O apoio da Anthropic ao projeto de lei sinaliza uma abordagem distinta para a governança da IA. O apoio da empresa, juntamente com as emendas propostas, difere da abordagem federal que a OpenAI tem apoiado. O destino do SB 1047 provavelmente afetará os debates futuros nos níveis estadual e federal.