OpenAI prepara sucessor para o GPT-4 em meio a preocupações com a segurança  

A OpenAI está treinando um novo sistema de IA para suceder o GPT-4, enquanto a empresa busca revitalizar sua reputação. O modelo será precedido por um comitê de segurança liderado pelo CEO Sam Altman e outros três diretores do conselho. 

Leia também: ChatGPT ainda espalha informações falsas, afirma órgão de proteção de dados da UE

A empresa sediada em São Francisco está sob pressão para demonstrar seu compromisso com a segurança. Os pesquisadores de risco Jan Leike e Gretchen Krueger, que recentemente se demitiram, expuseram a suposta cultura de segurança deficiente no X, antigo Twitter.

OpenAI treina 'Modelo da Próxima Fronteira'

Em uma postagem de blog publicada na terça-feira, a empresa afirmou:

“A OpenAI começou recentemente a treinar seu modelo de próxima geração e prevemos que os sistemas resultantes nos levarão ao próximo nível de capacidades em nosso caminho rumo à inteligência artificial geral (AGI).”

A OpenAI não informou quando o sucessor do GPT-4 será lançado nem quais serão suas funcionalidades. A empresa, avaliada em US$ 80 bilhões, apostou no pioneirismo com seu chatbot de IA extremamente popular, o ChatGPT, em um momento em que gigantes como o Google recuavam para avaliar o risco à sua reputação.

Embora a OpenAI seja uma das principais empresas na corrida da inteligência artificial generativa, disputada acirradamente por empresas como Anthropic, Google, Microsoft e outras, a empresa nem sempre resistiu ao escrutínio ético.

Em uma postagem anunciando sua renúncia da OpenAI no X, Leike revelou que "nos últimos anos, a cultura e os processos de segurança ficaram em segundo plano em relação a produtos atraentes".

Krueger escreveu que a empresa precisa "fazer mais para melhorar aspectos fundamentais como processos de tomada de decisão, responsabilidade, transparência, aplicação de políticas e o cuidado com que usamos nossa própria tecnologia".

Na semana passada, uma força-tarefa da União Europeia reforçou as críticas, relatando que o ChatGPT, o principal produto da empresa, não atinge seus padrões de precisão.

Empresa destaca segurança de IA como principal argumento de venda

Entretanto, a recente atualização do modelo GPT-4 gerou imediatamente uma polêmica de grande repercussão, com a atriz Scarlett Johansson acusando a empresa de uso não autorizado de sua voz.

Leia também: OpenAI abandona o ChatGPT Voice após controvérsia com Scarlett Johansson

Agora, a empresa está levando sua liderançatracpara as lavanderias automáticas, apresentando a segurança como o principal diferencial de seu futuro programa de IA. A organização também está empenhada em ser vista pelos órgãos reguladores como desenvolvedora de IA responsável. Em sua postagem no blog, a OpenAI acrescentou:

“Embora tenhamos orgulho de construir e lançar modelos que são líderes do setor tanto em recursos quanto em segurança, saudamos um debate robusto neste momento importante.”

O novo comitê de segurança será liderado pelos diretores Altman, Bret Taylor (presidente), Adam D'Angelo e Nicole Seligman. O chefe de preparação, o chefe de sistemas de segurança, o chefe de ciência de alinhamento, o chefe de segurança e o cientista-chefe da empresa também farão parte do comitê.

A OpenAI afirmou que o comitê irá, nos próximos três meses, "avaliar e desenvolver ainda mais os processos e as salvaguardas" e apresentar um relatório a outros três diretores.

A empresa dissolveu sua equipe de segurança no início deste mês, após a saída do líder da equipe e cofundador da OpenAI, Ilya Sutskever.

Reportagem Cryptopolitan por Jeffrey Gogo