Sam Altman deixa o cargo na Comissão de Segurança da OpenAI em meio a críticas

O CEO da OpenAI, Sam Altman, renunciou ao Comitê de Segurança e Proteção interno da empresa, um grupo criado em maio para supervisionar decisões críticas de segurança. A saída de Altman ocorre em um momento em que legisladores americanos e ex-funcionários da OpenAI expressaram preocupação com a segurança e a conformidade legal da empresa.

O Comitê de Segurança agora funcionará como um comitê independente, vinculado ao conselho administrativo, responsável por monitorar questões de segurança. Essa mudança resultou na nomeação de Zico Kolter, professor da Universidade Carnegie Mellon, como presidente do comitê, juntamente com Adam D'Angelo, CEO do Quora, Paul Nakasone, general aposentado do Exército dos EUA, e Nicole Seligman, ex-executiva da Sony. Todos eles são membros atuais do conselho da OpenAI. O grupo ainda terá o poder de reter o lançamento de modelos de IA até que as preocupações com a segurança sejam resolvidas. 

Críticos questionam as prioridades da OpenAI após a saída de funcionários importantes

Em uma postagem no blog após a saída de Altman, a OpenAI reafirmou seu foco em segurança e observou que o comitê já havia aprovado a segurança do modelo mais recente, o1. O grupo também receberá regularmente informações adicionais da equipe de segurança da empresa para manter os membros atualizados e informados sobre os futuros lançamentos de modelos de IA. A empresa também afirmou que pretende aprimorar as medidas de segurança por meio da adoção de revisões técnicas e objetivos bem definidos para os lançamentos de modelos. 

Isso ocorre na sequência de críticas, especialmente de cinco senadores americanos que expressaram preocupação com as medidas de segurança da empresa no verão. Os críticos também observaram que mais da metade da equipe encarregada de lidar com as consequências a longo prazo da IA ​​deixou a empresa. Alguns disseram que Altman está mais preocupado com o aspecto comercial da IA ​​do que com a regulamentação da tecnologia. 

Os gastos da OpenAI têm aumentado. No primeiro semestre de 2024, a empresa gastou US$ 800.000 em lobby federal, um aumento significativo em comparação com os US$ 260.000 gastos em todo o ano de 2023. No início deste ano, Altman tornou-se membro do Conselho de Segurança e Proteção da Inteligência Artificial do Departamento de Segurança Interna dos EUA. O comitê tem como objetivo assessorar sobre o uso de IA em sistemas críticos do país. 

Ainda existem dúvidas quanto à autorregulamentação da gigante da IA. Em um artigo de opinião para a The Economist, as ex-membros do conselho da OpenAI, Helen Toner e Tasha McCauley, levantaram questionamentos sobre a capacidade da empresa de se autorregular. Elas alegaram que os incentivos ao lucro podem prejudicar a autogovernança da OpenAI, o que, em sua opinião, pode entrar em conflito com as metas de segurança a longo prazo.

A OpenAI busca financiamento massivo e planeja migrar para um modelo com fins lucrativos

A OpenAI está supostamente em negociações para garantir uma nova rodada de financiamento massiva que poderia elevar seu valor de mercado para US$ 150 bilhões. Segundo uma reportagem recente da Cryptopolitan, a OpenAI planeja captar US$ 6,5 bilhões de investidores, considerando sua avaliação atual. A empresa também planeja transformar seu modelo operacional atual em um modelo tradicional com fins lucrativos até 2025.

O CEO da OpenAI, Sam Altman, revelou as mudanças à equipe durante uma reunião recente, mas não deu muitos detalhes sobre o que esperar. Altman afirmou que a empresa "cresceu demais" para a estrutura atual e que estava preparada para abandonar o modelo sem fins lucrativos.