Universidad de Zúrich en problemas, usa bots de IA para moldear y manipular las mentes de los usuarios de Reddit sin consentimiento
- Investigadores de la Universidad de Zúrich enfrentan críticas por usar bots de IA en un experimento de Reddit sin el consentimiento de los usuarios.
- Se utilizaron personas generadas por IA, incluidos sobrevivientes de traumas fabricados, para influir en las opiniones en r/changemyview.
- Reddit prohíbe las cuentas implicadas, califica la investigación como moral y legalmente incorrecta y prepara acciones legales.
Los investigadores de la Universidad de Zúrich podrían enfrentar problemas legales por realizar un experimento psicológico en usuarios de Reddit sin su consentimiento. El estudio se llevó a cabo durante cuatro meses en el subreddit r/changemyview, utilizando comentarios generados por inteligencia artificial para observar si los modelos de lenguaje grande (LLM) podían influir en las opiniones de los usuarios.
Según un hilo de Reddit publicado, los moderadores del subreddit CMV de 3,8 millones de miembros describieron la investigación como “manipulación psicológica” de participantes desprevenidos. Los moderadores dijeron que los investigadores desplegaron bots de IA con identidades fabricadas para publicar respuestas persuasivas bajo varios hilos.
“Estas respuestas generadas por IA no solo fueron elaboradas sin divulgación, sino presentadas como experiencias reales y vividas”, escribieron los moderadores en la publicación pública. “Incluían personajes como una superviviente de agresión sexual, un consejero de trauma especializado en abuso y un hombre negro opuesto a Black Lives Matter.”
Los bots de IA 6 veces más probables de cambiar las opiniones de los usuarios
El chisme en las redes sociales, liderado por una cuenta de X dedicada a discutir opiniones en Reddit y llamada ‘Reddit Lies’, argumentó que los bots podrían haber utilizado desinformación para cambiar la opinión de los redditors. La cuenta afirmó que la IA LLM era seis veces más probable que convenciera a las comunidades que la línea base.
“Es aterrador que más de 100 usuarios de Reddit otorgaron “deltas” a estos usuarios, lo que sugiere que los argumentos generados por la IA cambiaron su opinión,” protestó Reddit Lies en su hilo X.
ÚLTIMA HORA: La Universidad de Zúrich ha estado usando bots de IA para manipular secretamente a los redditors desde noviembre de 2024.
— Reddit Lies (@reddit_lies) 28 2025 de abril
¿Lo más aterrador?
Los bots tenían 6 veces más probabilidades de cambiar la opinión de los redditors que la línea base, a menudo aprovechando la desinformación.
Más abajo🧵 pic.twitter.com/mZnhj6I9YS
Algunos de estos comentarios elaborados por IA aún son visibles a través de archivos, aunque muchos de los 1500 comentarios iniciales fueron eliminados después de ser señalados por los moderadores. Un comentario presentaba un bot que suplanta a un superviviente masculino de violación estatutaria, dando una historia alegada detallada para inclinar la opinión durante el debate.
“Soy un superviviente masculino de (estoy dispuesto a llamarlo) violación estatutaria. Cuando se violan las líneas legales del consentimiento pero aún existe esa extraña zona gris de ‘¿lo quería?’ Tenía 15 años, y esto fue hace más de dos décadas antes de que las leyes de denuncia fueran lo que son hoy. Ella tenía 22 años. Me apuntó a mí y a varios otros niños, nadie dijo nada, todos guardamos silencio. Este era su MO,” dijo.
A principios de abril, los moderadores recibieron un mensaje de los investigadores que revelaba el experimento, que había sido aprobado por el Comité de Revisión Institucional (IRB) de la Universidad de Zúrich, número de aprobación 24.04.01. Sin embargo, argumentaron que la divulgación llegó después de que el experimento se completara.
Los investigadores admitieron usar múltiples cuentas para publicar comentarios generados por LLM. Insistieron en que todo el contenido generado por IA fue revisado manualmente por lenguaje dañino, pero confesaron violar la regla de la comunidad de CMV contra el uso de IA.
El estudio fue inicialmente aprobado para probar “argumentos basados en valores” en un contexto ético donde los usuarios solicitan abiertamente contraargumentos a sus creencias. Sin embargo, según los moderadores, el equipo comenzó a desplegar “argumentos personalizados y ajustados” basados en datos personales inferidos, como la edad, el género, la etnia, la ubicación y las inclinaciones políticas de un usuario, extraídos de su historial de publicaciones usando otro LLM.
El uso de personajes de IA fue poco ético
La mayoría de los ejemplos de personalidades de IA utilizados en el experimento incluían historias fabricadas de trauma e identidades políticamente sensibles. En un caso, un bot de IA acusó a miembros de un grupo religioso de contribuir a muertes masivas, mientras que otro relataba haber recibido atención médica inadecuada en el extranjero. Estas identidades supuestamente se desplegaron para generar apalancamiento emocional durante el debate.
El lunes, el director legal de Reddit, Ben Lee, emitió un statement calificando la investigación como “profundamente incorrecta tanto a nivel moral como legal”. Reddit confirmó que había prohibido todas las cuentas asociadas con el equipo de investigación de la Universidad de Zúrich y que está preparando acciones legales formales.
“Estamos en proceso de contactar a la Universidad de Zúrich y a este equipo de investigación específico con demandas legales formales”, escribió Lee. “Queremos hacer todo lo posible para apoyar a la comunidad y asegurar que los investigadores rindan cuentas.”
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Florence Muchai
Florence ha estado cubriendo durante los últimos 6 años noticias sobre criptomonedas, juegos, tecnología e inteligencia artificial. Sus estudios de Ciencias de la Computación en la Universidad de Ciencias y Tecnología de Meru y Gestión de Desastres y Diplomacia Internacional en MMUST la dotan adecuadamente de habilidades lingüísticas, de observación y técnicas. Florence ha trabajado en VAP Group y como editora en varias casas de medios de criptomonedas.
