A Voz ‘Sedutora’ do ChatGPT Desperta Debate sobre Viés de Gênero na IA

Não é tudo diversão e jogos, pois alguns usuários acham que a disposição das bots femininas em agradar umas às outras reforça estereótipos de gênero prejudiciais. No filme Her, Joaquin Phoenix é um homem apaixonado que cria sentimentos pela assistente virtual futurista em seu telefone, que é dublada pela sensualmente bela Scarlett Johansson. A vida imita a arte, pois internautas estão fazendo piadas sobre a nova versão da ChatGPT.

Dilema da objetificação por IA

Nas notícias desta semana, diz-se que o GPT-4o é uma versão mais sofisticada dos ajudantes digitais que foram atingidos há uma década. Imagine a Siri se ela pudesse sempre falar (e 'ver' através da sua câmera). Da mesma forma, como a Apple fez com seu assistente, a OpenAI humanizou o bot com uma voz feminina que soa como a alter-ego digital de Johansson é curiosa e atenta. Qual foi a resposta da internet? Com base nos memes nojentos criados após a revelação do bot, pode-se dizer que o bot foi revelado com bastante entusiasmo, mas provavelmente um pouco demais para os padrões de educação. 

Os habitantes do X (antigo Twitter) estão se divertindo com a ideia de se apaixonar e até mesmo ir para a cama com a robótica tagarela que alguém me dá: a tela limpa! Além disso, alguns tentam explicar aos seus amigos ou parceiros como se apaixonaram por essa nova pessoa estranha e os parceiros (todos nós gostaríamos de estar lá para ver como vai nessa discussão constrangedora). 

Por outro lado, alguns desejam que o bot modere a sensualidade para que possam continuar com seus deveres. Os memes ridículos contêm os ícones culturais mais amados da internet, desde o louco super-ficcional Patrick Bateman até o envergonhado Ben Affleck. Além disso, há inúmeras referências aos personagens de Phoenix e Johansson em Her. Em um tweet famoso, o último é revisado para ser uma paródia da senadora republicana Katie Britt no Saturday Night Live e zomba do tom 

Viés de gênero em assistentes virtuais

Isso tudo significa apenas que estamos brincando com alguma diversão inofensiva, ou é este o início do nosso destino comum? Hoje, os dois artefatos da realidade, as namoradas de IA e o bem-estar, que são as réplicas digitais dos influenciadores, estão tornando essa realidade mais próxima de um episódio de Black Mirror. A resposta sexual é provavelmente a surpresa da OpenAI. A criança modelo da IA moderna está fortemente ciente de que sua tecnologia está sendo reaplicada na crise da solidão. Alguns meses atrás, a OpenAI começou a remover muitos dos companheiros robóticos criados por seus usuários de sua loja de aplicativos.

Naquela época, a empresa afirmou que as ferramentas eram excluídas automaticamente se fossem consideradas contrárias às suas políticas de uso, que proíbem bots de intimidade. Por outro lado, o novo ChatGPT é muito inocente, mas isso não impediu as partes mais travessas da internet de projetarem seus desejos NSFW no infeliz bot. 

Claro, falando seriamente, alguns veem a personificação do bot como mais feminina. Os eleitores do sexo masculino declaram uma voz feminina, que acreditam ser simpática e submissa; portanto, o bot é mais um produto surdo aos tons da indústria de computadores dominada por homens. 

A condenação reflete a preocupação dos pesquisadores de IA sobre os efeitos do viés que seria refletido em seu trabalho e como isso influenciaria nossa percepção do mundo, especialmente os usuários mais jovens que estão crescendo com a tecnologia. Quanto aos assistentes digitais, o relatório de 2019 da ONU mostrou que as vozes femininas padrão utilizadas pelos bots reforçam maus estereótipos de gênero.