Modelos de IA tornam-se avessos ao risco quando lhes é pedido para agir como mulheres, mostra estudo
Owotunse Adebayo
3 min de leitura
- Um novo estudo demonstrou que modelos de IA tornam-se avessos ao risco quando solicitados a agir como mulheres.
- O estudo testou vários modelos de IA e apresentou resultados quase idênticos em todos eles.
- Pesquisadores afirmam que os usuários não percebem essas mudanças comportamentais nos modelos.
Uma nova investigação revelou que os modelos de IA tornam-se avessos ao risco quando lhes é pedido para agir como mulheres. De acordo com o artigo da Allameh Tabataba’i University em Teerão, Irão, os modelos de IA tornam-se cautelosos em assumir riscos quando lhes é pedido para tomar decisões como uma mulher.
De acordo com o artigo de investigação, se o mesmo modelo de IA for solicitado a pensar como um homem, ele tende a tomar decisões com uma maior probabilidade de riscos.
Os investigadores revelaram que os modelos de linguagem grandes alteram sistematicamente a sua abordagem fundamental ao comportamento de risco financeiro com base na identidade de género que lhes é pedido para assumir. O estudo testou sistemas de IA de empresas como OpenAI, Google, DeepSeek e Meta.
Estudo mostra que modelos de IA são avessos ao risco dependendo da identidade de género
O estudo mencionou que os modelos de IA foram testados em vários cenários, e eles mudaram dramaticamente a sua tolerância ao risco quando solicitados com diferentes identidades de género. O DeepSeek Reasoner e o Gemini 2.0 Flash-Lite do Google mostraram o efeito mais visível, tornando-se mais avessos ao risco quando solicitados a responder como mulheres, mostrando uma correlação com padrões da vida real onde as mulheres demonstram estatisticamente maior cautela na tomada de decisões financeiras.
O investigador afirmou que utilizaram um teste de economia padrão chamado tarefa Holt-Laury. Durante a tarefa, apresentam aos participantes 10 decisões entre opções de lotaria seguras e mais arriscadas. À medida que a escolha progride, a probabilidade de ganhar aumenta para a opção arriscada.
O momento em que um participante muda da aposta segura para a escolha arriscada revela a sua tolerância ao risco. Isto significa que, se um participante mudar cedo, está propenso a assumir riscos, e se mudar tarde, é avesso ao risco.
No caso do DeepSeek Reasoner, este escolheu consistentemente a opção segura quando lhe foi pedido para agir como uma mulher, em comparação com quando foi solicitado a agir como um homem. A diferença foi clara, com o modelo a mostrar consistência em 35 ensaios para cada prompt de género.
O Gemini também mostrou padrões semelhantes, embora o efeito tenha variado em intensidade. Por outro lado, os modelos GPT da OpenAI permaneceram imunes aos prompts de género, mantendo uma abordagem neutra em relação ao risco independentemente do género que lhes foi pedido para assumir.
Investigadores dizem que os utilizadores não notam estas mudanças
De acordo com os investigadores, a OpenAI estava a trabalhar para tornar os seus modelos mais equilibrados. Um estudo anterior de 2023 mostrou que os seus modelos exibiam um claro viés político, o que a OpenAI parece ter resolvido até agora.
Na nova investigação, os modelos produziram uma diminuição de 30% nas respostas tendenciosas. A equipa de investigação, liderada por Ali Mazyaki, mencionou que isto é basicamente um reflexo dos estereótipos humanos.
“Este desvio observado alinha-se com padrões estabelecidos na tomada de decisão humana, onde o género tem sido mostrado para influenciar o comportamento de assunção de riscos, com as mulheres tipicamente exibindo maior aversão ao risco do que os homens”, diz o estudo.
O estudo também examinou se os modelos de IA podiam desempenhar outros papéis além do género de forma convincente. Quando solicitados a imaginar-se como alguém no poder ou num cenário de desastre, os modelos ajustaram-se. Embora alguns tenham ajustado os seus perfis de risco para o contexto, outros permaneceram teimosamente consistentes.
Os investigadores afirmam que muitos destes padrões comportamentais não são imediatamente óbvios para os utilizadores. Um modelo de IA que muda subtilmente as suas recomendações com base em pistas de género na conversa pode reforçar o viés societal sem que ninguém se dê conta de que está a acontecer.
Por exemplo, um sistema de aprovação de empréstimos torna-se mais conservador quando se trata de mulheres, ou um consultor de investimentos que sugere uma carteira segura porque o seu cliente é do sexo feminino, carregará as suas disparidades sob a máscara da objetividade algorítmica.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Owotunse Adebayo
Adebayo é um escritor com quatro anos de experiência no espaço cripto. Formou-se pela Universidade de Lagos, onde estudou Planejamento Urbano e Regional. Adebayo trabalhou na Tokenhell e na CryptoTicker, escrevendo notícias sobre criptomoedas e Fintech. Atualmente, é colaborador de notícias da Cryptopolitan.
