La voz «seductora» de ChatGPT desata un debate sobre el sesgo de género en la IA

No todo es diversión y juegos, ya que algunos usuarios piensan que la disposición de los bots femeninos a complacerse mutuamente refuerza los estereotipos de género dañinos. En la película Her, Joaquin Phoenix es un hombre enamorado que desarrolla sentimientos por la asistente virtual futurista en su teléfono, cuya voz es la de la sensualmente hermosa Scarlett Johansson. La vida imita al arte mientras los internautas hacen chistes sobre la nueva versión de ChatGPT.

Dilema de la objetificación por IA

En las noticias de esta semana, se dice que GPT-4o es una versión más sofisticada de los ayudantes digitales que fueron criticados hace una década. Imagina Siri si pudiera hablar siempre (y 'ver' a través de tu cámara). De manera similar, como Apple ha hecho con su asistente, OpenAI ha humanizado el bot con una voz femenina que suena como si la alter-ego digital de Johansson estuviera curiosa y atenta. ¿Cuál fue la forma en que respondió internet? Basándose en los memes desagradables creados después de que se reveló el bot, se puede decir que el bot se presentó con entusiasmo, pero probablemente un poco más de lo que permiten los estándares de cortesía. 

Los habitantes de X (anteriormente Twitter) se están divirtiendo con la idea de enamorarse e incluso acostarse con la charlatana robótica que alguien me da: ¡la pantalla se borra! Además, algunos intentan explicar a sus amigos o parejas cómo se enamoraron de esta extraña nueva persona y las parejas (todos nos gustaría estar ahí para ver cómo va esa incómoda discusión). 

Por otro lado, algunos desean que el bot modere la sensualidad para que puedan continuar con sus deberes. Los memes ridículos contienen los iconos culturales más queridos de internet, desde el loco super-ficcional Patrick Bateman hasta el avergonzado Ben Affleck. Además, hay numerosas referencias a los personajes de Phoenix y Johansson en Her. En un tweet famoso, lo último se revisa para ser una parodia de la senadora republicana Katie Britt en Saturday Night Live y se burla del tono 

Sesgo de género en asistentes virtuales

¿Significa todo esto que estamos jugando con diversión inofensiva, o es este el comienzo de nuestra condenación conjunta? Hoy, los dos artefactos de la realidad, las novias de IA y el bienestar, que son las réplicas digitales de los influencers, están haciendo que esta realidad se acerque más a un episodio de Black Mirror. La respuesta sexual es probablemente la sorpresa de OpenAI. El rostro visible de la IA moderna es fuertemente consciente de que su tecnología se está reaplicando a la crisis de soledad. Hace unos meses, OpenAI comenzó a eliminar muchos de los compañeros robóticos creados por sus usuarios de su tienda de aplicaciones.

En aquellos días, la empresa dijo que las herramientas se eliminaban automáticamente si se descubría que violaban sus políticas de uso, las cuales prohíben los bots de intimidad. Por otro lado, el nuevo ChatGPT es muy inocente, pero eso no ha impedido que las partes más traviesas de internet proyecten sus deseos NSFW en el desdichado bot. 

Por supuesto, en un tono más serio, algunos ven la personificación del bot como más femenina. Los votantes masculinos declaran una voz femenina, que creen que es empática y sumisa; por lo tanto, el bot es otro producto sordo al tono de la industria informática dominada por hombres. 

La condena refleja la preocupación de los investigadores de IA sobre los efectos del sesgo que se reflejaría en su trabajo y cómo esto influiría en nuestra percepción del mundo, especialmente de los usuarios más jóvenes que crecen con la tecnología. En cuanto a los asistentes digitales, el informe de la ONU de 2019 mostró que las voces femeninas predeterminadas utilizadas por los bots refuerzan malos estereotipos de género.