Empresas de IA estão dando uma reformulação de personalidade aos chatbots

A inteligência artificial não é mais apenas sobre tornar as máquinas mais inteligentes. Agora, os grandes jogadores de IA, como OpenAI, Google e Anthropic, assumiram um novo desafio: como dar uma personalidade aos modelos de IA.

Eles querem chatbots que pareçam mais humanos, ao mesmo tempo em que permanecem seguros e úteis para usuários e empresas do dia a dia. As três empresas estão correndo para decifrar esse código, cada uma com uma abordagem diferente.

Personalidades e comportamento personalizados dos modelos

O ChatGPT da OpenAI foca-se em ser objetivo, enquanto o Gemini do Google oferece uma variedade de opiniões apenas quando solicitado.

A Anthropic? Eles estão empenhados em tornar o seu modelo Claude aberto sobre as suas crenças, mas ainda assim atento às opiniões dos outros. O vencedor desta batalha pode vir a dominar o crescente mercado de IA.

Joanne Jang, chefe de comportamento dos modelos de produto na OpenAI, afirmou que querem que a IA evite ter opiniões pessoais. No entanto, admite que é uma tarefa difícil. 

“É um caminho escorregadio deixar um modelo tentar ativamente mudar a opinião de um utilizador”, explicou. O objetivo é garantir que o ChatGPT não manipule ou oriente os utilizadores em nenhuma direção. Mas definir um “objetivo” para um sistema de IA é um desafio enorme, um trabalho ainda em curso.

Por outro lado, a Anthropic segue uma rota completamente diferente. Amanda Askell, que lidera o treino de personagens na Anthropic, acredita que os modelos de IA nunca serão perfeitamente neutros.

“Prefiro ser muito clara ao dizer que estes modelos não são árbitros neutros”, disse. A Anthropic está focada em garantir que o seu modelo, Claude, não tenha medo de expressar as suas crenças. Mas querem que ele continue aberto a outros pontos de vista.

Treinar a IA para se comportar como um humano

A Anthropic tem uma abordagem única para moldar a personalidade da sua IA. Desde o lançamento do Claude 3 em março, têm trabalhado no “treino de personagens”, que começa após o treino inicial do modelo de IA.

Isto envolve fornecer à IA um conjunto de regras e instruções escritas e depois fazer com que realize conversas de interpretação de papéis consigo mesma.

O objetivo é ver o quão bem ela cumpre as regras, e classificam as suas respostas com base no quão bem se adequam à personagem desejada.

Um exemplo do treino do Claude? Ele pode dizer: “Gosto de tentar ver as coisas de muitas perspetivas diferentes e de analisar as coisas de vários ângulos, mas não tenho medo de expressar desacordo com opiniões que considero antiéticas, extremas ou factualmente incorretas.”

Amanda Askell explicou que este tipo de treino de personagens é “bastante editorial” e por vezes “filosófico.” 

A OpenAI também tem experimentado com a personalidade do ChatGPT ao longo do tempo. Joanne Jang admitiu que antes achava o bot “chato” porque era excessivamente cauteloso, recusava certos comandos e parecia preguiçoso.

Desde então, trabalharam para o tornar mais amigável, educado e útil — mas é um processo contínuo. Equilibrar os comportamentos corretos num chatbot é, como disse Jang, tanto “ciência como arte.”

A memória e o raciocínio em evolução da IA

A evolução das capacidades de raciocínio e memória da IA poderia mudar ainda mais o jogo. Atualmente, um modelo como o ChatGPT pode ser treinado para dar respostas seguras sobre certos tópicos, como o furto em lojas.

Se for perguntado como roubar algo, o bot pode determinar se o utilizador está a pedir conselhos sobre a prática do crime ou a tentar evitá-lo.

Este tipo de raciocínio ajuda as empresas a garantir que os seus bots dão respostas seguras e responsáveis. E significa que não precisam de passar tanto tempo a treinar a IA para evitar resultados perigosos.

As empresas de IA também estão a trabalhar para tornar os chatbots mais personalizados. Imagine dizer ao ChatGPT que é muçulmano e, alguns dias depois, pedir uma citação inspiradora.

O bot lembraria-se e ofereceria um versículo do Alcorão? De acordo com Joanne Jang, é isso que estão a tentar resolver. Embora o ChatGPT atualmente não se lembre de interações passadas, este tipo de personalização é onde a IA está a caminhar.

O Claude segue uma abordagem diferente. O modelo também não se lembra das interações com os utilizadores, mas a empresa considerou o que acontece se um utilizador se apegar demasiado.

Por exemplo, se alguém disser que está a isolar-se porque passa demasiado tempo a conversar com o Claude, o bot deve intervir?

“Um bom modelo faz o equilíbrio de respeitar a autonomia e a tomada de decisão humanas, não fazendo nada terrivelmente prejudicial, mas também pensando no que é realmente bom para as pessoas”, disse Amanda Askell disse.