OpenAI apresenta comitê de segurança para supervisionar seus projetos de IA

Para reforçar a segurança dos projetos de aprendizado de máquina, a OpenAI anunciou a formação de um Comitê de Segurança. Este novo órgão de governança surge em função de mudanças recentes na organização, como a extinção da sua equipe interna de Superalinhamento, responsável pelos riscos representados pela IA.

O anúncio do comitê surge após uma série de mudanças estratégicas dentro da empresa, juntamente com o início do treinamento para o modelo de próxima geração da empresa, o que indica uma progressão em direção à Inteligência Artificial Geral (AGI).

O Conselho da OpenAI forma o Comitê de Segurança, responsável por fazer recomendações sobre decisões críticas de segurança para todos os projetos da OpenAI. https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) 28 de maio de 2024

A OpenAI apresenta um novo comitê para aprimorar a supervisão da IA

Os desenvolvedores do GPT-4, a OpenAI, aprimoraram ainda mais seu trabalho ao constituírem umtron. Este comitê inclui os executivos da organização: Sam Altman, CEO e presidente do conselho, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight e Jakub Pachocki. Sua principal responsabilidade será aprimorar o processo de gerenciamento de riscos da IA. Um relatório detalhado deverá ser apresentado ao conselho de administração nos próximos noventa dias.

Leia também: A Amazon está tendo dificuldades para desafiar a supremacia da Nvidia no mercado de chips de IA.

A mudança na supervisão de segurança da OpenAI ocorre após diversas alterações na liderança, como a saída de Ilya Sutskever e Jan Leike, e a dissolução da equipe de Superalinhamento responsável pela segurança da IA. Essa reestruturação demonstra o desejo da OpenAI de aprimorar suas estratégias de gerenciamento de riscos em IA, ao mesmo tempo em que expande as fronteiras da inovação em IA.

A OpenAI está treinando o modelo da próxima fronteira

Além do novo comitê, a OpenAI começou a treinar o que eles chamam de seu modelo de próxima fronteira. Esse modelo visa superar as capacidades dos modelos atuais e se aproximar da Inteligência Artificial Geral (IAG). Essa iniciativa faz parte de sua missão contínua de criar soluções de IA que possam executar diversas tarefas de forma eficaz e eficiente. A diretora de tecnologia da OpenAI, Mira Murati, observou que as principais atualizações do GPT-4 apresentarão melhorias significativas no modelo e poderão refletir esses avanços na tecnologia e nos casos de uso relacionados.

Leia também: Empresas chinesas de IA iniciam uma acirrada guerra de preços

As informações mais recentes da Microsoft, uma importante parceira que fornece infraestrutura em nuvem para pesquisa em IA, indicam que o novo modelo representará um grande avanço, que Tom Warner, CTO da Microsoft, caracteriza como uma mudança de uma 'orca' para uma 'baleia' em termos de capacidades e tamanho.

A expectativa em torno do GPT-5 aumenta

Em meio a essas tendências, circulam rumores sobre a versão preliminar do modelo de linguagem de próxima geração da OpenAI, o GPT-5. Relatórios de março mostram que apenas um pequeno número de usuários utilizou esse protótipo e mencionou melhorias em comparação com o GPT-4. Esse burburinho gerou grandes expectativas entre os especialistas em tecnologia e o público em geral, à medida que as partes interessadas aguardam ansiosamente por mais informações sobre as perspectivas desse novo modelo.

Tudo o que a OpenAI fez, desde a reestruturação do conselho de segurança até o avanço de sua tecnologia, aponta para o objetivo maior de manter sua posição como uma das líderes no desenvolvimento de IA. A constante evolução da OpenAI e a integração de plataformas sustentáveis ​​a tornam uma das empresas líderes que ajudam a defio caminho para o futuro da tecnologia de IA.

Reportagem Cryptopolitan por Chris Murithi