Los usuarios luchan por detectar IA en plataformas sociales, muestra un estudio
- Los bots de IA demostraron una alta efectividad al imitar conversaciones humanas, difuminando las líneas en las interacciones de redes sociales.
- A pesar de la conciencia, el 58% de los participantes del estudio no logró identificar con precisión a los bots de IA en el discurso político.
- Varios modelos de IA mostraron un rendimiento similar, lo que indica que incluso las IA menos avanzadas pueden simular convincentemente a usuarios humanos.
Un proyecto de investigación en el campo de la investigación de redes sociales fue realizado por el equipo de la Universidad de Notre Dame, donde descubrieron que el público general enfrenta muchas dificultades para determinar quién es humano y quién es inteligencia artificial durante las discusiones políticas en diferentes plataformas en línea.
La investigación, dividida en tres rondas con una plataforma Mastodon personalizada como su plataforma de entrega, indica que los participantes confunden bots de IA con humanos el 58% de las veces.
Los bots de IA difuminan los límites humanos en el discurso político, estudio
El equipo de investigación, bajo la guía del Dr. Paul Brenner del Centro de Cómputo de Investigación de la Universidad de Notre Dame, adoptó bots de IA basados en redes generativas que incluyen GPT4, Llama-2-Chat y Claude 2.
Esta generación de chatbots fue diseñada con personalidades diversas para ser utilizadas como jugadores políticos en el campo de los asuntos mundiales y más a menudo asumiendo rasgos humanos e involucrándose en diferentes discusiones políticas.
La belleza de esto era el hecho de que cada bot tenía un personaje (emergencia de una personalidad con un perfil detallado) que estaba instruido para dibujar una relación entre experiencias personales y eventos de mundo más amplio.
Para la manipulación de datos, a pesar de que el panel entendía que estaba interactuando con humanos y bots, aproximadamente la mitad de este grupo de muestra no pudo hacer la diferencia entre inteligencia artificial y humanos reales.
Esta evidencia demuestra que los bots de IA pueden imitar muy de cerca a los humanos en lo que respecta a sus patrones de conversación, aumentando así sus posibilidades de ser utilizados para promover la desinformación.
El papel de la IA en la desinformación
El Sr. Paul Brenner planteó cuestiones como la adopción de estos bots de IA y su probable efecto cascada, una oportunidad para que los bots impulsados por IA influyan en la opinión pública y posiblemente difundan desinformación.
Explicó que la IA en simulaciones es tan efectiva que cada ser humano en Internet puede ser fácilmente engañado sobre la fuente original de la información.
Otro aspecto importante destacado en este estudio fue la evaluación de diferentes modelos de IA en el proceso, mostrando que las tasas de variación de precisión fueron pequeñas entre los varios LLMs. Aquí, llegamos a entender que este hecho demuestra que incluso modelos menos sofisticados también podrían ser lo suficientemente convincentes para crear conversaciones similares a las humanas en escenarios de interacción en redes sociales.
Por lo tanto, entre otras cosas, en la primera línea Brenner destacó su postura sobre un enfoque multidimensional hacia la prevención de la propagación de información falsa con la ayuda de la IA.
estas iniciativas como campañas educativas, acción legislativa y una validación más estricta de cuentas en redes sociales que se ayudarán mutuamente para terminar completamente con este problema. Además, las dimensiones de la salud psicológica de la influencia de la IA en los adolescentes están destinadas a ser consideradas y se pretende desarrollar estrategias para negar este impacto.
Este proyecto de investigación acentúa el desequilibrio de la IA frente a la integridad de la información en línea en las redes sociales que requiere el desarrollo de estrategias integradas para hacer frente a la situación.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar investigaciones independientes y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
John Palmer
John Murangiri llegó a Cryptopolitan con habilidades en análisis de mercado. John (también conocido como JP) se graduó de la Universidad de Nairobi con un título de licenciatura en comunicación masiva y estudios de medios. Anteriormente, ha contribuido con perspectivas del mercado de criptomonedas a InsideBitcoins.com y Metacoingraph.
