La Universidad de Zúrich está en problemas: utiliza bots de inteligencia artificial para moldear y manipular las mentes de los usuarios de Reddit sin su consentimiento

Investigadores de la Universidad de Zúrich podrían enfrentarse a problemas legales por realizar un experimento psicológico con usuarios de Reddit sin su consentimiento. El estudio se llevó a cabo durante cuatro meses en el subreddit r/changemyview, utilizando comentarios generados por inteligencia artificial para observar si los grandes modelos lingüísticos (LLM) podían influir en las opiniones de los usuarios. 

Según un hilo de Reddit publicado, los moderadores del subreddit CMV, con 3,8 millones de miembros, describieron la investigación como una "manipulación psicológica" de participantes desprevenidos. Los moderadores afirmaron que los investigadores desplegaron bots de IA condentfalsas para publicar respuestas persuasivas en varios hilos.

“Estas respuestas generadas por IA no solo se elaboraron sin revelar su origen, sino que se presentaron como experiencias reales y vividas”, escribieron los moderadores en la publicación pública. “Incluían personajes como una sobreviviente de agresión sexual, una consejera especializada en trauma y un hombre negro opuesto al movimiento Black Lives Matter”

Los bots de IA tienen 6 veces más probabilidades de cambiar las opiniones de los usuarios

En las redes sociales, un grupo de usuarios llamado "Reddit Lies", dedicado a debatir opiniones en Reddit, argumentó que los bots podrían haber utilizado desinformación para influir en la opinión de los usuarios. La cuenta afirmó que el modelo LLM con IA tenía seis veces más probabilidades de convencer a las comunidades que el modelo de referencia.

“Resulta aterrador que más de 100 usuarios de Reddit otorgaran ‘deltas’ a estos usuarios, lo que sugiere que los argumentos generados por la IA les hicieron cambiar de opinión”, protestó Reddit Lies en su hilo X.

ÚLTIMAKIN: La Universidad de Zúrich ha estado utilizando bots de IA para manipular secretamente a los usuarios de Reddit desde noviembre de 2024. ¿

Lo más aterrador?
Los bots tenían 6 veces más probabilidades de cambiar la opinión de los usuarios de Reddit que el grupo de referencia, a menudo mediante la desinformación.

Más información a continuación 🧵 pic.twitter.com/mZnhj6I9YS

— Mentiras de Reddit (@reddit_lies) 28 de abril de 2025

Algunos de estos comentarios creados por IA aún son visibles en los archivos, aunque muchos de los 1500 comentarios iniciales fueron eliminados tras ser marcados por los moderadores. Un comentario mostraba a un bot que se hacía pasar por un hombre superviviente de estupro, proporcionando una supuesta historia detallada para influir en la opinión durante el debate.

“Soy un hombre sobreviviente de (lo que yo llamo) violación estatutaria. Cuando se traspasan los límites legales del consentimiento, pero aún existe esa extraña zona gris de '¿lo quería?'. Yo tenía 15 años, y esto sucedió hace más de dos décadas, antes de que las leyes de denuncia fueran como son hoy. Ella tenía 22. Me atacó a mí y a otros chicos, nadie dijo nada, todos guardamos silencio. Ese era su modus operandi”, decía el texto.

A principios de abril, los moderadores recibieron un mensaje de los investigadores divulgando el experimento, aprobado por el Comité de Revisión Institucional (CRI) de la Universidad de Zúrich con número de aprobación 24.04.01. Sin embargo, afirmaron que la divulgación se produjo después de la finalización del experimento.

Los investigadores admitieron haber utilizado varias cuentas para publicar comentarios generados por modelos de lenguaje natural. Insistieron en que todo el contenido generado por IA fue revisado manualmente para detectar lenguaje ofensivo, pero confesaron haber violado la norma de la comunidad de CMV contra el uso de IA.

El estudio fue aprobado inicialmente para probar "argumentos basados ​​en valores" en un contexto ético donde los usuarios solicitan abiertamente contraargumentos a sus creencias. Sin embargo, según los moderadores, el equipo comenzó a implementar "argumentos personalizados y ajustados" basados ​​en datos personales inferidos, como la edad, el género, la etnia, la ubicación y las inclinaciones políticas del usuario, extraídos de su historial de publicaciones mediante otro modelo de lenguaje natural.

El uso de personajes de IA fue poco ético

La mayoría de los ejemplos de personajes de IA utilizados en el experimento incluían historias inventadas de trauma edentpolíticamente sensibles. En un caso, un bot de IA acusó a miembros de un grupo religioso de contribuir a muertes masivas, mientras que otro relató haber recibido atención médica inadecuada en el extranjero. Supuestamente, estasdentse utilizaron para generar influencia emocional durante el debate.

El lunes, Ben Lee, director jurídico de Reddit, emitió un comunicado calificando la investigación de "profundamente errónea tanto desde el punto de vista moral como legal". Reddit confirmó que había bloqueado todas las cuentas asociadas con el equipo de investigación de la Universidad de Zúrich y que está preparando acciones legales formales.

«Estamos en proceso de contactar con la Universidad de Zúrich y con este equipo de investigación en particular para presentar demandas legales formales», escribió Lee. «Queremos hacer todo lo posible para apoyar a la comunidad y garantizar que los investigadores rindan cuentas».