- Jan Leike, Líder da Equipe de Superalinhamento da OpenAI, levantou sérias questões sobre as mudanças nas práticas de segurança da empresa.
- Leike deixou a empresa horas após o co-fundador Ilya Sutskever ter saído.
- Diz-se que a equipe de Superalinhamento está sendo desmantelada pela empresa, deixando seus modelos de IA sob menor escrutínio.
Após a saída do co-fundador Ilya Sutskever da empresa no início desta semana, Jan Leike, um pesquisador de destaque, anunciou na manhã de sexta-feira que “a cultura e os processos de segurança ficaram em segundo plano em favor de produtos brilhantes” na empresa.
Jan Leike disse em uma série de posts na plataforma de mídia social X que ele se juntou à startup sediada em San Francisco porque acreditava que seria o melhor lugar para realizar pesquisas de IA.
Leike liderou a equipe “Superalinhamento” da OpenAI com um co-fundador que também renunciou nesta semana.
A Equipe de Superalinhamento da OpenAI Não Está Mais Intacta
A equipe de Superalinhamento de Leike foi formada em julho do ano passado na OpenAI para enfrentar os principais desafios técnicos na implementação de medidas de segurança à medida que a empresa avança na IA capaz de raciocinar como um humano.
As declarações de Leike ocorreram após um relatório da WIRED, no qual Chich afirmou que a OpenAI havia dissolvido completamente a equipe de Superalinhamento, que tinha a tarefa de abordar os riscos de longo prazo associados à IA.
Também leia: O cientista-chefe da OpenAI, Ilya Sutskever, despede-se
Sutskever e Leike não foram os únicos funcionários que deixaram a empresa. Pelo menos mais cinco dos trabalhadores mais conscientes sobre segurança na OpenAI deixaram a empresa ou foram demitidos desde novembro passado, quando o conselho tentou demitir o CEO Sam Altman, apenas para vê-lo jogar suas cartas para recuperar sua posição.
A OpenAI Deveria Se Tornar uma Empresa de AGI com Segurança em Primeiro Lugar
Leike apontou para a característica mais controversa da tecnologia em várias plataformas — uma visão prospectiva de robôs que são tão inteligentes quanto os humanos ou, pelo menos, capazes de realizar muitas tarefas tão bem quanto eles —, escrevendo que a OpenAI precisa se transformar em uma empresa de AGI com segurança em primeiro lugar.
Em resposta aos posts de Leike, Sam Altman, CEO da OpenAI, expressou sua gratidão pelos serviços de Leike à empresa e sua tristeza com sua partida.
Altman disse em uma publicação no X que Leike está correto e que ele escreveria uma postagem longa sobre o tópico nos próximos dias. Ele também disse que,
“Temos muito mais a fazer; estamos comprometidos em fazê-lo.”
Leike deixou a equipe de superalinhamento da OpenAI, e John Schulman, um co-fundador do negócio, assumiu o cargo.
Mas há uma vacuidade na equipe. Além disso, Schulman já está sobrecarregado com seu trabalho em tempo integral garantindo a segurança dos produtos existentes da OpenAI. Quão mais significativo, focado no futuro, é o trabalho de segurança que a OpenAI pode produzir? Não parece haver uma resposta satisfatória para isso.
Jan Leike Tem Diferenças Ideológicas com a Gestão
Como o nome da organização, OpenAI, já sugere, originalmente pretendia compartilhar seus modelos livremente com o público; a empresa agora afirma que tornar esses modelos poderosos disponíveis para qualquer pessoa poderia ser prejudicial, portanto, os modelos foram transformados em conhecimento proprietário.
Leike disse em um post que discordava da liderança da OpenAI sobre as prioridades que vinham sendo impostas à empresa há bastante tempo, até que finalmente atingiram um ponto de ruptura.
Eu me juntei porque achei que a OpenAI seria o melhor lugar do mundo para fazer essa pesquisa.
— Jan Leike (@janleike) Mai 17, 2024
No entanto, tenho discordado da liderança da OpenAI sobre as prioridades centrais da empresa há bastante tempo, até finalmente atingirmos um ponto de ruptura.
O último dia de Leike na empresa foi na quinta-feira, após o qual ele renunciou e não suavizou sua demissão com despedidas calorosas ou qualquer indício de confiança na liderança da OpenAI. No X, ele postou: “Renunciei.”
Um seguidor de Leike disse em um comentário que está feliz por Leike não ser mais membro de seu grupo. As ideologias progressistas não estão alinhadas com a humanidade. Quanto menos alinhado fica, mais isso é inserido na IA.
Também leia: OpenAI protege conteúdo do Reddit para melhoria do ChatGPT
O seguidor disse que também exigiria uma definição de alinhamento de todos os alinhadores. Ele estava apontando para uma recomendação na qual Leike pediu a outros funcionários da OpenAI que acreditava que poderiam promover a mudança cultural necessária na empresa.
A principal empresa de IA do mundo parece estar mudando seu curso em relação às medidas de segurança frequentemente enfatizadas por especialistas, e a saída de especialistas de segurança de alto nível da empresa provavelmente confirma isso.
Reportagem da Cryptopolitan por Aamir Sheikh
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
