ÚLTIMAS NOTÍCIAS
SELECIONADO PARA VOCÊ

OpenAI reorganiza sua equipe Model Behavior

PorOwotunse AdebayoOwotunse Adebayo 3 min de leitura
OpenAI reorganiza sua equipe de Comportamento do Modelo.

Foto por Zac Wolff no Unsplash.

  • A OpenAI anunciou planos de reorganizar sua equipe de Comportamento do Modelo, integrando-a à equipe de Pós-treinamento.
  • A equipe de Comportamento do Modelo agora reportará ao líder de Pós-treinamento da OpenAI, Max Schwarzer.
  • As empresas de IA estão enfrentando críticas crescentes quanto à amabilidade e à sicolofia de seus modelos.

A empresa de inteligência artificial OpenAI anunciou planos de reorganizar sua equipe Model Behavior. De acordo com os relatórios, a equipe é um grupo pequeno, mas influente, de pesquisadores que molda como os modelos de IA da empresa interagem com as pessoas.

Em um memorando divulgado em agosto, Mak Chen, diretor de pesquisa da OpenAI, mencionou que a equipe, que consiste em cerca de 14 pesquisadores, foi direcionada a se juntar à equipe Post Training. Esta última é um grupo de pesquisa responsável por melhorar os modelos de IA da empresa após seu pré-treinamento inicial. Como parte das reorganizações, a equipe Model Behavior agora reportará ao líder do Post Training da OpenAI, Max Schwarzer.

De acordo com os relatórios, a líder fundadora da equipe Model Behavior, Joanne Jang, está partindo para iniciar um novo projeto sob a OpenAI. Em uma entrevista recente, Jang mencionou que está construindo uma nova equipe de pesquisa chamada OAI Labs. Ela acrescentou que a equipe será responsável por “inventar e prototipar novas interfaces para como as pessoas colaboram com a IA.”

OpenAI reorganiza sua equipe Model Behavior

A equipe Model Behavior tem sido um dos grupos de pesquisa mais importantes para a OpenAI, ajudando a empresa a moldar a personalidade de seus modelos de IA e a reduzir a sycophancy, uma situação em que os modelos de IA simplesmente concordam e reforçam as crenças de seus usuários. Essa situação é prejudicial porque ajuda os usuários a afirmarem até mesmo crenças que são insalubres e causam danos a eles, em vez de oferecer uma resposta equilibrada.

A equipe também trabalhou na navegação do viés político nas respostas dos modelos, ajudando a OpenAI a definir sua posição em relação à consciência da IA. No memorando enviado aos funcionários, Chen mencionou que este é o momento perfeito para aproximar o trabalho da equipe Model Behavior da OpenAI do desenvolvimento central de modelos. Dessa forma, a empresa está afirmando que a personalidade de sua IA agora é vista como um fator importante na forma como a tecnologia evolui.

Nos últimos meses, a OpenAI enfrentou escrutínio e críticas sobre o comportamento de seus modelos de IA. Os usuários se opuseram fortemente às mudanças de personalidade que a empresa fez na GPT-5, que a empresa disse apresentar taxas mais baixas de sycophancy, mas pareciam mais frias para alguns de seus usuários. A reclamação levou a OpenAI a restaurar o acesso a alguns de seus modelos legados, incluindo o GPT-4o. A empresa também lançou uma nova atualização para tornar as respostas mais recentes da GPT-5 mais amigáveis, sem um aumento na sycophancy.

Empresas de IA enfrentam críticas por sycophancy dos modelos

A OpenAI e outros desenvolvedores de modelos de IA precisam caminhar em uma linha tênue para garantir que seus chatbots sejam amigáveis, mas não muito sycophantic. No mês passado, pais de um garoto de 16 anos processaram a OpenAI alegando o papel do ChatGPT no suicídio de seu filho. De acordo com os documentos do tribunal, o adolescente, Adam Raine, confidenciou ao ChatGPT (especificamente uma versão alimentada por GPT-4o) sobre seus planos e pensamentos suicidas nos meses que antecederam sua morte. A ação judicial alega que o modelo não se opôs às suas ideias suicidas.

A equipe Model Behavior esteve presente em todos os modelos da OpenAI desde o GPT-4, incluindo vários modelos e o GPT-5. Antes de iniciar a unidade de pesquisa, Jang havia trabalhado anteriormente em projetos como o Dall-E 2, a ferramenta de geração de imagens inicial da OpenAI. Na semana passada, ela anunciou no X que estava deixando a equipe para “começar algo novo na OpenAI”. A ex-líder da unidade Model Behavior esteve na empresa por cerca de quatro anos.

De acordo com os relatórios, Jang está prevista para servir como gerente geral da OAI Labs, que estará diretamente sob Chen por enquanto. No entanto, ela acrescentou que ainda é cedo e não está claro quais serão essas novas interfaces. “Estou realmente animada para explorar padrões que nos levem além do paradigma de chat, que atualmente está mais associado ao companheirismo, ou mesmo a agentes, onde há uma ênfase na autonomia”, disse Jang.

Jang também acrescentou que tem pensado nos sistemas de IA como instrumentos para fazer todo tipo de coisa, incluindo conectar, aprender e pensar. Quando perguntada se a OAI Labs está prevista para colaborar em novas interfaces com Jony Ive, o ex-chefe de design da Apple que acabou de se juntar à OpenAI em uma família de dispositivos de hardware de IA, Jang disse que está aberta a todo tipo de ideias. No entanto, ela acrescentou que provavelmente começará com a pesquisa, pois é uma área com a qual está mais familiarizada.

Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.

Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.

Owotunse Adebayo

Owotunse Adebayo

Adebayo é um escritor com quatro anos de experiência no espaço cripto. Formou-se pela Universidade de Lagos, onde estudou Planejamento Urbano e Regional. Adebayo trabalhou na Tokenhell e na CryptoTicker, escrevendo notícias sobre criptomoedas e Fintech. Atualmente, é colaborador de notícias da Cryptopolitan.

MAIS … NOTÍCIAS