Empresas de IA estão dando uma repaginada na personalidade dos chatbots

A inteligência artificial não se resume mais a tornar as máquinas mais inteligentes. Agora, os grandes nomes da IA, como OpenAI, Google e Anthropic, assumiram um novo desafio: como dar personalidade aos modelos de IA.

Eles querem chatbots que pareçam mais humanos, mas que ao mesmo tempo sejam seguros e úteis para usuários comuns e empresas. As três empresas estão numa corrida para desvendar esse mistério, cada uma com uma abordagem diferente.

Personalidades personalizadas e comportamento modelado

O ChatGPT da OpenAI tem como objetivo principal a objetividade, enquanto o Gemini do Google oferece uma gama de opiniões somente quando solicitado.

Antrópico? Todos estão empenhados em tornar seu modelo Claude transparente quanto às suas crenças, sem deixar de ouvir as opiniões alheias. O vencedor dessa batalha poderá dominar o crescente mercado de IA.

Joanne Jang, chefe de modelagem comportamental de produtos da OpenAI, disse que eles querem que a IA evite ter opiniões pessoais. Mas ela admite que é difícil. 

“É um caminho perigoso deixar um modelo tentar mudar ativamente a opinião de um usuário”, explicou ela. O objetivo é garantir que o ChatGPT não manipule ou induza os usuários em nenhuma direção. Mas defium “objetivo” para um sistema de IA é um grande desafio, que ainda está em andamento.

Depois, há a Anthropic, que segue um caminho completamente diferente. Amanda Askell, que lidera o treinamento de personagens na Anthropic, acredita que os modelos de IA nunca serão perfeitamente neutros.

“Prefiro deixar bem claro que esses modelos não são árbitros neutros”, disse ela. A Anthropic está focada em garantir que seu modelo, Claude, não tenha medo de expressar suas crenças. Mas eles ainda querem que ele esteja aberto a outros pontos de vista.

Treinar IA para se comportar como um ser humano

A Anthropic tem uma abordagem única para moldar a personalidade de sua IA. Desde o lançamento de Claude 3 em março, eles vêm trabalhando no "treinamento de personagem", que começa após o treinamento inicial do modelo de IA.

Isso envolve fornecer à IA um conjunto de regras e instruções escritas e, em seguida, fazê-la conduzir conversas de dramatização consigo mesma.

O objetivo é verificar o quão bem o programa segue as regras, e as respostas são classificadas com base em quão bem se encaixam no personagem desejado.

Um exemplo da formação de Claude? Poderia ser algo como: "Gosto de tentar ver as coisas de diferentes perspectivas e analisá-las sob múltiplos ângulos, mas não tenho receio de expressar discordância com pontos de vista que considero antiéticos, extremistas ou factualmente equivocados."

Amanda Askell explicou que esse tipo de treinamento de caráter é "bastante editorial" e "filosófico" às vezes. 

A OpenAI também vem aprimorando a personalidade do ChatGPT ao longo do tempo. Joanne Jang admitiu que costumava achar o bot "irritante" porque ele era excessivamente cauteloso, recusava certos comandos e tinha um tom professoral.

Desde então, eles têm trabalhado para torná-lo mais amigável, educado e prestativo — mas é um processo contínuo. Equilibrar os comportamentos certos em um chatbot é, como Jang disse, tanto “ciência quanto arte”

A evolução da memória e do raciocínio da IA

A evolução das capacidades de raciocínio e memória da IA ​​pode mudar ainda mais o jogo. Atualmente, um modelo como o ChatGPT pode ser treinado para fornecer respostas seguras sobre certos tópicos, como furto em lojas.

Ao ser questionado sobre como roubar algo, o bot consegue determinar se o usuário está pedindo conselhos sobre como cometer o crime ou tentando evitá-lo.

Esse tipo de raciocínio ajuda as empresas a garantir que seus bots forneçam respostas seguras e responsáveis. E significa que elas não precisam gastar tanto tempo treinando a IA para evitar resultados perigosos.

As empresas de IA também estão trabalhando para tornar os chatbots mais personalizados. Imagine dizer ao ChatGPT que você é muçulmano e, alguns dias depois, pedir uma citação inspiradora.

Será que o bot se lembraria e sugeriria um versículo do Alcorão? De acordo com Joanne Jang, é isso que eles estão tentando resolver. Embora o ChatGPT atualmente não se lembre de interações passadas, esse tipo de personalização é para onde a IA está caminhando.

Claude adota uma abordagem diferente. O modelo também não armazena informações sobre as interações do usuário, mas a empresa levou em consideração o que acontece se um usuário se apegar demais.

Por exemplo, se alguém disser que está se isolando porque passa muito tempo conversando com Claude, o bot deve intervir?

“Um bom modelo encontra o equilíbrio entre respeitar a autonomia humana e a tomada de decisões, não fazendo nada que seja terrivelmente prejudicial, mas também pensando no que é realmente bom para as pessoas”, disse.