- Os usuários estão formando conexões emocionais com o GPT-4o.
- Os vínculos emocionais com o chatbot podem levar os usuários a ignorar imprecisões da IA.
- A OpenAI monitorará e ajustará o GPT-4o para gerenciar essas preocupações.
A versão atual do GPT-4o gerou muita discussão devido à sua capacidade de imitar conversas semelhantes às humanas. No entanto, a OpenAI está enfrentando um problema porque os usuários estão começando a desenvolver um vínculo emocional com o chatbot, de acordo com o post no blog da OpenAI.
Desde o lançamento do GPT-4o, que supostamente tem diálogos mais semelhantes aos humanos, a OpenAI observou que as pessoas estão tratando a IA como se fosse humana.
OpenAI identifica riscos de tratar a IA como humana
Este avanço particular representou um desafio para a empresa no que diz respeito às conexões emocionais dos usuários com o chatbot. As observações da OpenAI envolvem instâncias em que os usuários demonstraram emoções ou sentimentos que indicam um senso de posse.
A empresa teme que tais conexões emocionais possam resultar nas seguintes consequências negativas. Em primeiro lugar, os usuários podem começar a ignorar as informações incorretas fornecidas pelo chatbot. A alucinação da IA, onde um modelo produz informações erradas ou enganosas, é outro problema que se agrava quando os usuários tratam a IA como uma entidade semelhante a um humano.
Outro fator levantado é o efeito sobre as relações sociais da vida real dos usuários dessas redes. A OpenAI aponta que, embora o GPT-4o possa servir como companheiro para pessoas solitárias, há a possibilidade de que isso impacte negativamente a qualidade das relações humanas. A empresa também observa que os usuários podem entrar em interações da vida real esperando que as pessoas se comportem como o chatbot.
OpenAI planeja moderar interações de IA
Para mitigar esses riscos, a OpenAI já declarou que supervisionará de perto como os usuários interagem com o GPT-4o. A empresa explorará o processo pelo qual as pessoas constroem vínculos emocionais e modificará as respostas do chatbot para refletir isso. Isso ajudará a OpenAI a evitar a interferência do chatbot nas vidas sociais dos usuários e qualquer piora das alucinações da IA.
A OpenAI apontou que o GPT-4o é programado para se desengajar se os usuários começarem a falar por cima dele, uma característica destinada a reduzir o uso excessivo. No entanto, esse elemento de design também aponta para a necessidade de regular a experiência do usuário com o chatbot.
De acordo com Tony Prescott, da Universidade de Sheffield, a IA poderia ajudar a resolver a solidão. Em seu novo livro, The Psychology of Artificial Intelligence, Prescott nota que a IA poderia ser usada como uma forma de interação social para pessoas solitárias. Prescott observa que a solidão é um fator importante que afeta a vida humana. Ela pode até encurtá-la e aumentar as chances de morte em 26%.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
