Funcionários afirmam que OpenAI e Google DeepMind estão escondendo riscos da IA 

Vários funcionários atuais e ex-funcionários da OpenAI e do Google DeepMind acusaram suas empresas de ocultar riscos de IA que poderiam potencialmente desencadear a extinção humana. Em uma carta aberta, os trabalhadores alegaram que as empresas de IA estão colocando o lucro em primeiro lugar, evitando a “supervisão [governamental] eficaz.”

Também leia: OpenAI Alinha Sucessor do GPT-4 em Meio a Preocupações de Segurança

A carta aberta foi assinada por 11 ex-funcionários da OpenAI, dois do Google DeepMind, e endossada pelo “padrinho da IA” Geoffrey Hinton, ex-Google. Ela afirmava que os motivos lucrativos e as lacunas regulatórias permitem que as empresas ocultem as ameaças posedas pela inteligência artificial avançada.

A IA poderia levar à ‘extinção humana’

De acordo com a carta, empresas de IA, como a OpenAI e o Google DeepMind, criador do Gemini, não compartilharam publicamente informações sobre as salvaguardas inadequadas e os níveis de risco de seus sistemas porque não são obrigadas a fazê-lo.

Sem supervisão regulatória, os programas de IA poderiam causar grandes danos aos humanos. Os funcionários alertaram:

“Esses riscos variam desde o aprofundamento das desigualdades existentes… até a perda de controle dos sistemas de IA autônomos, potencialmente resultando na extinção humana.”

Como observado pelos signatários da carta, as próprias empresas de IA reconheceram esses riscos. Em maio de 2023, os CEOs da OpenAI, Anthropic e Google DeepMind assinaram uma carta aberta do Centro para Segurança da IA. A carta simplesmente dizia: “Mitigar o risco de extinção da IA deve ser uma prioridade global, junto com outros riscos de escala societal, como pandemias e guerra nuclear.”

As empresas de IA têm sido cada vez mais submetidas a escrutínio por colocar produtos inovadores e lucro acima da segurança e proteção. A OpenAI, criadora do ChatGPT, observou as preocupações levantadas na carta e disse que está trabalhando para desenvolver uma inteligência artificial segura.

“Estamos orgulhosos do nosso histórico de fornecer os sistemas de IA mais capazes e seguros e acreditamos em nossa abordagem científica para lidar com os riscos”, disse a porta-voz da OpenAI, Lindsey Held, para o New York Times.

“Concordamos que o debate rigoroso é crucial dada a importância desta tecnologia, e continuaremos a nos envolver com governos, sociedade civil e outras comunidades ao redor do mundo.”

Denunciantes temem retaliação

Os ex-funcionários da OpenAI e do Google disseram que gostariam de preencher o papel de supervisão enquanto os reguladores elaboram leis que obriguem os desenvolvedores de IA a divulgar publicamente mais informações sobre seus programas.

No entanto, acordos de confidencialidade e a probabilidade de retaliação por parte dos empregadores desencorajam os trabalhadores a expressar publicamente suas preocupações. Segundo a carta:

“Alguns de nós tememos razoavelmente várias formas de retaliação, dada a história de tais casos em toda a indústria. Não somos os primeiros a encontrar ou falar sobre esses problemas.”

Os denunciantes são protegidos por lei nos EUA, mas aqueles que falam sobre os perigos da inteligência artificial não estão cobertos porque a tecnologia ainda não é regulamentada.

Também leia: ChatGPT Ainda Espalha Falsidades, Diz Vigia de Dados da UE

A carta pediu às empresas de IA que facilitassem o feedback verificavelmente anônimo, apoiassem uma cultura de crítica aberta e não retaliassem contra os denunciantes.

O pesquisador de IA Lance B. Eliot disse que as empresas adotam uma abordagem de cenoura e bastão em relação às críticas. Os funcionários que não falam contra os riscos são recompensados com promoções de cargo e aumentos salariais.

Por outro lado, os denunciantes e críticos perdem suas opções de ações e podem ser forçados a sair da empresa e ser silenciosamente listados como negros pela comunidade de liderança de IA.

Reportagem Cryptopolitan por Jeffrey Gogo