La voix « séduisante » de ChatGPT suscite un débat sur les biais de genre dans l'IA

Ce n’est pas tout le divertissement, car certains utilisateurs pensent que la volonté des bots féminins de plaire les uns aux autres renforce les stéréotypes de genre nuisibles. Dans le film Her, Joaquin Phoenix est un homme amoureux qui développe des sentiments pour l’assistant virtuel futuriste sur son téléphone, voix sensuellement belle de Scarlett Johansson. La vie imite l’art alors que les internautes lancent des blagues sur la nouvelle version de ChatGPT.

Dilemme de l'objectification par l'IA

Dans l'actualité de cette semaine, GPT-4o serait une version plus sophistiquée des assistants numériques qui avaient été critiqués il y a une décennie. Imaginez Siri si elle pouvait toujours parler (et « voir » à travers votre caméra). De même, comme Apple l'a fait avec son assistant, OpenAI a humanisé le bot en lui donnant une voix féminine qui ressemble à celle de l'alter ego numérique de Johansson, curieux et attentif. Quelle a été la réaction d'Internet ? À en juger par les memes dégoûtants créés après la révélation du bot, on peut dire qu'il a été dévoilé avec enthousiasme, mais probablement un peu trop par rapport aux standards de politesse. 

Les habitants de X (anciennement Twitter) s'amusent avec l'idée de tomber amoureux et même de partager le lit avec cette bavarde robotique que quelqu'un me donne : l'écran s'efface ! Par ailleurs, certains essaient d'expliquer à leurs amis ou partenaires comment ils ont craqué pour cette nouvelle personne étrange, et les partenaires (nous aimerions tous être là pour voir comment se déroule cette discussion maladroite). 

D'un autre côté, certains souhaitent que le bot modère la sensualité afin qu'ils puissent poursuivre leurs tâches. Les memes ridicules contiennent les icônes culturelles les plus aimées d'Internet, du fou super-fictif Patrick Bateman à Ben Affleck, honteux. De plus, il y a de nombreuses références aux personnages de Phoenix et de Johansson en elle. Dans un tweet célèbre, ce dernier est revisité pour être une parodie de la sénatrice républicaine Katie Britt dans Saturday Night Live et se moque du ton « trop séducteur » de ChatGPT. 

Biais de genre dans les assistants virtuels

Tout cela signifie-t-il simplement que nous nous amusons innocemment, ou est-ce le début de notre perte commune ? Aujourd’hui, les deux artefacts de la réalité, les petites amies IA et le bien-être, qui sont les répliques numériques des influenceurs, rendent cette réalité plus proche d’un épisode de Black Mirror. La réponse sexuelle est probablement la surprise d’OpenAI. Le visage emblématique de l’IA moderne est fortement conscient que sa technologie est réappliquée à la crise de la solitude. Il y a quelques mois, OpenAI a commencé à supprimer de nombreuses compagnes robotiques créées par ses utilisateurs de son app store.

À l'époque, l'entreprise a déclaré que les outils seraient automatiquement supprimés s'ils étaient jugés contraires à ses politiques d'utilisation, qui interdisent les robots d'intimité. D'un autre côté, le nouveau ChatGPT est très innocent, mais cela n'a pas empêché les parties les plus coquines d'Internet de projeter leurs souhaits NSFW sur le pauvre bot. 

Bien sûr, sur un ton plus sérieux, certains considèrent la personnification du bot comme plus féminine. Les électeurs masculins déclarent une voix féminine, qu'ils jugent sympathique et soumise ; par conséquent, le bot est un autre produit malavisé de l'industrie informatique dominée par les hommes. 

La condamnation reflète les préoccupations des chercheurs en IA concernant les effets des biais qui se refléteraient dans leurs travaux et la manière dont cela influencerait notre perception du monde, en particulier celle des jeunes utilisateurs qui grandissent avec cette technologie. En ce qui concerne les assistants numériques, le rapport de 2019 des Nations Unies a montré que les voix féminines par défaut utilisées par les robots renforcent de mauvais stéréotypes de genre.