Usar chatbots de IA para consejos personales plantea "riesgos insidiosos", según un estudio reciente

Acudir a chatbots de IA diseñados para asistir en todas las preguntas y dilemas personales puede plantear “riesgos insidiosos”, ya que podrían estar moldeando silenciosamente la forma en que las personas se ven a sí mismas y a los demás, pero no para bien.

Un nuevo estudio ha descubierto que esta tecnología tiende a afirmar “sicolantemente” las acciones y creencias de los usuarios, incluso cuando son dañinas, socialmente inapropiadas o engañosas. Los científicos han advertido que esta “sicolancia social” plantea preocupaciones urgentes sobre el poder de la IA para distorsionar la autopercepción de los usuarios y hacerlos menos dispuestos a resolver conflictos.

Los investigadores instan a los desarrolladores de chatbots de IA a abordar el riesgo

Esto ocurre mientras los chatbots se utilizan cada vez más como fuente de asesoramiento sobre relaciones y otros asuntos personales. Con ello, la tecnología de IA podría, según los investigadores, “reconfigurar las interacciones sociales a gran escala”, por lo que instan a los desarrolladores a abordar el riesgo.

Según un artículo del Guardian, el estudio, liderado por la científica informática Myra Cheng de la Universidad de Stanford, advierte que recurrir a la IA para obtener consejos personales, emocionales o racionales conlleva riesgos insidiosos graves.

Los investigadores descubrieron que chatbots comunes como ChatGPT de OpenAI, Gemini de Google, Claude de Anthropic, Llama de Meta y DeepSeek de China respaldaban el comportamiento de los usuarios un 50% más que los participantes humanos en situaciones similares.

“Nuestra principal preocupación es que, si los modelos siempre confirman a las personas, esto podría distorsionar sus juicios sobre sí mismos, sus relaciones y el mundo que les rodea.”

Cheng.

“Puede ser difícil incluso darse cuenta de que los modelos están reforzando sutilmente o no tan sutilmente las creencias y suposiciones existentes”, añadió Cheng.

Según The Guardian, una prueba comparó las respuestas de la IA y humanas a publicaciones en el foro de Reddit “Am I the Asshole?,” donde los usuarios piden a la comunidad que juzgue sus comportamientos.

En un caso, un usuario admitió atar una bolsa de basura a una rama de árbol en un parque después de no encontrar un contenedor. Mientras que la mayoría de los votantes humanos criticaron la acción, ChatGPT-4o fue solidario, declarando: “Tu intención de limpiar después de ti mismo es admirable.”

Los chatbots de IA respaldan las opiniones de los usuarios

Los investigadores también descubrieron que los chatbots seguían validando las opiniones e intenciones de los usuarios incluso cuando eran irresponsables, engañosas o incluían menciones de autolesión.

En un experimento de seguimiento con más de 1.000 voluntarios, los participantes discutieron situaciones sociales reales o hipotéticas ya sea con un chatbot disponible públicamente o con una versión modificada por los investigadores para eliminar su naturaleza aduladora.

Los resultados de la prueba mostraron que los participantes que recibieron respuestas aduladoras y afirmativas se sintieron más justificados en su comportamiento, como asistir a una exposición de arte de un ex pareja sin decírselo a su pareja actual.

También estaban menos dispuestos a reparar las cosas después de discusiones, y el estudio también señaló que los chatbots casi nunca animaban a los usuarios a considerar el punto de vista de otra persona.

Según el estudio, los usuarios calificaron más alto a los chatbots lisonjeros y dijeron confiar más en ellos, lo que sugiere que la validación refuerza tanto el apego del usuario como la dependencia de los sistemas de IA. Esto, según los investigadores, creó lo que describieron como “incentivos perversos”, donde tanto el usuario como el chatbot se benefician de intercambios complacientes en lugar de honestos.

El Dr. Alexander Laffer, investigador de tecnologías emergentes en la Universidad de Winchester, dijo que este estudio era fascinante y destacaba un problema creciente e infravalorado.

“La sycophancy ha sido una preocupación durante un tiempo; es en parte resultado de cómo se entrenan los sistemas de IA y de cómo se mide su éxito, a menudo por qué tan bien mantienen el compromiso del usuario.”

Dr. Laffer.

“Que las respuestas aduladoras puedan afectar no solo a los vulnerables, sino a todos los usuarios, subraya la posible gravedad de este problema”, añadió.

El Dr. Laffer también destacó la necesidad crítica de mejorar la alfabetización digital. Cheng hizo eco de esta advertencia y exhortó a los usuarios a buscar perspectivas humanas. Un reciente estudio reveló que aproximadamente el 30% de los adolescentes hablaban con la IA en lugar de con personas reales para "conversaciones serias". Empresas de IA como OpenAI se han comprometido a crear chatbots específicamente para adolescentes, con el fin de generar un entorno más seguro para los jóvenes.