A voz "sedutora" do ChatGPT gera debate sobre viés de gênero na IA

Nem tudo são flores, já que alguns usuários acreditam que a disposição das bots femininas em agradar umas às outras reforça estereótipos de gênero prejudiciais. No filme "Ela", Joaquin Phoenix interpreta um homem apaixonado que desenvolve sentimentos pela assistente virtual futurista em seu celular, dublada pela sensual Scarlett Johansson. A vida imita a arte, e internautas fazem piadas sobre a nova versão do ChatGPT.

dilema da objetificação da IA

Nas notícias desta semana, o GPT-40 é descrito como uma versão mais sofisticada dos assistentes digitais que fizeram sucesso há uma década. Imagine a Siri, só que sempre falando (e "enxergando" através da sua câmera). De forma semelhante ao que a Apple fez com seu assistente, a OpenAI humanizou o bot com uma voz feminina que lembra a curiosidade e a atenção da versão digital de Johansson. Qual foi a reação da internet? Pelos memes de mau gosto criados após a revelação do bot, podemos dizer que ele foi apresentado com bastante entusiasmo, talvez até demais para os padrões de etiqueta. 

Os habitantes do X (antigo Twitter) estão se divertindo com a ideia de se apaixonar e até mesmo de ir para a cama com a tagarela robótica que alguém lhes dá: as telas de limpeza! Além disso, alguns tentam explicar aos amigos ou parceiros como se apaixonaram por essa nova pessoa estranha (todos nós adoraríamos estar lá para ver como seria essa conversa constrangedora). 

Por outro lado, alguns desejam que o bot modere a sensualidade para que possam continuar com suas tarefas. Os memes ridículos contêm os ícones culturais mais amados da internet, do super-herói insano Patrick Bateman ao envergonhado Ben Affleck. Além disso, há inúmeras referências aos personagens de Phoenix e Johansson. Em um tweet famoso, a última é adaptada para ser uma paródia da senadora republicana Katie Britt no Saturday Night Live e zomba do tom "excessivamente sedutor" do ChatGPT. 

Viés de gênero em assistentes virtuais

Será que tudo isso significa apenas uma brincadeira inofensiva, ou será este o início da nossa ruína coletiva? Hoje, os dois artefatos da realidade, as namoradas virtuais e o bem-estar, que são réplicas digitais dos influenciadores, estão tornando esta realidade cada vez mais parecida com um episódio de Black Mirror. A reação sexual provavelmente será a surpresa da OpenAI. A empresa, que é o exemplo perfeito da inteligência artificial moderna, estátronciente de que sua tecnologia está sendo reaplicada à crise da solidão. Há alguns meses, a OpenAI começou a remover muitos dos companheiros robóticos criados por seus usuários de sua loja de aplicativos. 

Naquela época, a empresa afirmava que as ferramentas eram excluídasmaticcaso violassem suas políticas de uso, que proibiam bots de intimidade. Por outro lado, o novo ChatGPT é bastante inocente, mas isso não impediu que os setores mais indecentes da internet projetassem seus desejos impróprios para menores no pobre bot. 

Claro que, falando sério, alguns veem a personificação do bot como mais feminina. Os eleitores do sexo masculino declaram preferir uma voz feminina, que consideram simpática e submissa; portanto, o bot é mais um produto insensível da indústria da informática dominada por homens. 

A condenação reflete a preocupação dos pesquisadores de IA com os efeitos do viés que poderia ser refletido em seu trabalho e como isso influenciaria nossa percepção do mundo, especialmente entre os usuários mais jovens que estão crescendo com a tecnologia. Quanto aos assistentes digitais, o da ONU de 2019 mostrou que as vozes femininas padrão utilizadas pelos bots reforçam estereótipos de gênero negativos.