OpenAI Apresenta Comitê de Segurança e Segurança para Supervisionar Seus Projetos de IA

Para aprimorar a segurança dos projetos de aprendizado de máquina, a OpenAI anunciou a formação de um Comitê de Segurança e Proteção. Este novo órgão de governança surge à luz de mudanças recentes na organização, como a extinção de sua equipe interna de Superalinhamento, que lidava com os riscos impostos pela IA.

O anúncio do comitê segue uma série de mudanças estratégicas dentro da empresa, junto com o início do treinamento do modelo de próxima geração da empresa, o que sugere uma progressão em direção à AGI.

O conselho da OpenAI forma um Comitê de Segurança e Proteção, responsável por fazer recomendações sobre decisões críticas de segurança e proteção para todos os projetos da OpenAI. https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) Mai 28, 2024

OpenAI Apresenta Novo Comitê para Melhor Supervisão da IA

Os desenvolvedores do GPT-4, OpenAI, aprimoraram ainda mais seu jogo constituindo um comitê de Segurança e Proteção de nove membros. Este painel inclui executivos da organização: Sam Altman como CEO e presidente do conselho, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight e Jakub Pachocki. Sua responsabilidade principal será melhorar o gerenciamento do processo de risco de IA. Um relatório detalhado deve ser apresentado ao conselho de administração nos próximos noventa dias.

Também leia: A Amazon está lutando para desafiar a supremacia de chips de IA da Nvidia

A mudança da OpenAI na supervisão de segurança segue diversas mudanças na liderança, como a saída de Ilya Sutskever e Jan Leike, e a dissolução da equipe de Superalinhamento responsável pela segurança da IA. Essa reestruturação mostra o desejo da OpenAI de melhorar suas estratégias de gerenciamento de riscos de IA, ao mesmo tempo em que expande a fronteira da inovação em IA.

A OpenAI está Treinando o Próximo Modelo de Fronteira

Além do novo comitê, a OpenAI começou a treinar o que chamam de seu próximo modelo de fronteira. Este modelo visa superar as capacidades dos modelos atuais e se aproximar de alcançar a AGI. Este movimento faz parte de sua missão contínua de criar soluções de IA que possam realizar várias tarefas de forma eficaz e eficiente. A diretora de tecnologia da OpenAI, Mira Murati, observou que as principais atualizações do GPT-4 apresentarão melhorias significativas no modelo e podem refletir tais desenvolvimentos na tecnologia e nos casos de uso relacionados.

Também leia: Empresas de IA da China Iniciam uma Feroz Guerra de Preços

Últimas informações da Microsoft, um parceiro importante que fornece infraestrutura em nuvem para pesquisa de IA, indicam que o novo modelo representará um grande avanço, que Tom Warner, CTO da Microsoft, caracteriza como uma mudança de 'orca' para 'baleia' em termos de capacidades e tamanho.

A Antecipação em Torno do GPT-5 Intensifica

Neste contexto, há rumores sobre a versão preliminar do modelo de linguagem de próxima geração da OpenAI, rotulado como GPT-5. Relatórios de março mostram que apenas um pequeno número de usuários usou este protótipo e mencionou que há melhorias em comparação com o GPT-4. Esse buzz criou enormes expectativas entre os entusiastas da tecnologia e o público em geral, já que as partes interessadas aguardam saber mais sobre as perspectivas deste novo modelo.

Tudo o que a OpenAI fez, desde a reestruturação do conselho de segurança até o avanço de sua tecnologia, aponta para o panorama geral de manter sua posição como uma das líderes no desenvolvimento de IA. A evolução constante da OpenAI e a integração de plataformas sustentáveis a tornam uma das principais empresas ajudando a definir o caminho para o futuro da tecnologia de IA.

Relatório do Cryptopolitan por Chris Murithi