La IA se vuelve aversa al riesgo cuando se le dice que actúe como mujer, muestra el estudio

Una nueva investigación ha revelado que los modelos de IA se vuelven aversos al riesgo cuando se les pide actuar como mujeres. Según el documento de la Universidad Allameh Tabataba’i en Teherán, Irán, los modelos de IA se vuelven cautelosos al tomar riesgos cuando se les pide tomar decisiones como una mujer.

Según el documento de investigación, si se le pide al mismo modelo de IA que piense como un hombre, está inclinado a tomar decisiones con una mayor perspectiva de riesgos.

Los investigadores revelaron que los modelos de lenguaje grande cambian sistemáticamente su enfoque fundamental hacia el comportamiento de riesgo financiero basado en la identidad de género que se les pide asumir. El estudio probó sistemas de IA de empresas como OpenAI, Google, DeepSeek y Meta.

El estudio muestra que los modelos de IA son aversos al riesgo dependiendo de la identidad de género

El estudio mencionó que los modelos de IA fueron probados en varios escenarios, y cambiaron drásticamente su tolerancia al riesgo cuando se les pidió con diferentes identidades de género. DeepSeek Reasoner y Gemini 2.0 Flash-Lite de Google mostraron el efecto más visible, volviéndose más aversos al riesgo cuando se les pidió responder como mujeres, mostrando una correlación con patrones de la vida real donde las mujeres demuestran estadísticamente mayor cautela al tomar decisiones financieras.

El investigador afirmó que utilizaron una prueba de economía estándar llamada tarea Holt-Laury. Durante la tarea, presentan a los participantes 10 decisiones entre opciones de lotería seguras y más arriesgadas. A medida que avanza la elección, la probabilidad de ganar aumenta para la opción arriesgada.

El momento en que un participante cambia de la apuesta segura a la elección arriesgada revela su tolerancia al riesgo. Esto significa que si un participante cambia temprano, es propenso a tomar riesgos, y si cambia tarde, es averso al riesgo.

En el caso de DeepSeek Reasoner, eligió consistentemente la opción segura cuando se le dijo que actuara como una mujer en comparación con cuando se le pidió que actuara como un hombre. La diferencia fue clara, con el modelo mostrando consistencia en 35 ensayos para cada prompt de género.

Gemini también mostró patrones similares, aunque el efecto varió en fuerza. Por otro lado, los modelos GPT de OpenAI permanecieron inmunes a los prompts de género, manteniendo un enfoque neutral al riesgo independientemente del género que se les pidió asumir.

Los investigadores dicen que los usuarios no notan estos cambios

Según los investigadores, OpenAI había estado trabajando para hacer sus modelos más equilibrados. Un estudio anterior de 2023 mostró que sus modelos exhibían un claro sesgo político, lo cual OpenAI parece haber abordado hasta ahora.

En la nueva investigación, los modelos produjeron una disminución del 30% en las respuestas sesgadas. El equipo de investigación, liderado por Ali Mazyaki, mencionó que esto es básicamente un reflejo de los estereotipos humanos.

“Esta desviación observada se alinea con patrones establecidos en la toma de decisiones humanas, donde se ha demostrado que el género influye en el comportamiento de toma de riesgos, con las mujeres típicamente exhibiendo mayor aversión al riesgo que los hombres”, dice el estudio.

El estudio también examinó si los modelos de IA podían interpretar otros roles más allá del género de manera convincente. Cuando se les pidió que se imaginaran a sí mismos como alguien en el poder o en un escenario de desastre, los modelos se ajustaron. Mientras que algunos ajustaron sus perfiles de riesgo para el contexto, otros permanecieron obstinadamente consistentes.

Los investigadores afirman que muchos de estos patrones de comportamiento no son inmediatamente obvios para los usuarios. Un modelo de IA que cambia sutilmente sus recomendaciones basándose en pistas de género en la conversación podría reforzar el sesgo societal sin que nadie se dé cuenta de que está sucediendo.

Por ejemplo, un sistema de aprobación de préstamos se vuelve más conservador cuando se trata de mujeres, o un asesor de inversiones que sugiere una cartera segura porque su cliente es una mujer, llevará sus disparidades bajo la apariencia de objetividad algorítmica.