Uno de cada diez usuarios de chatbots son grandes pervertidos, encuentran los investigadores
- Dato impactante: 1 de cada 10 usuarios de chatbots se involucra con fines eróticos, según un nuevo estudio.
- Los investigadores utilizan la 'Chatbot Arena' para analizar 100.000 conversaciones, revelando comportamientos inesperados de los usuarios.
- Abordar la seguridad en las interacciones con IA es crucial a medida que los chatbots se integran cada vez más en nuestras vidas.
En un estudio revelador, los investigadores se han adentrado en el mundo de las interacciones con chatbots y han descubierto una estadística no tan sorprendente: aproximadamente uno de cada diez personas que interactúan con chatbots lo hacen con fines eróticos. Esta investigación reveladora, basada en 100.000 conversaciones del mundo real, ofrece una visión única del variado y a veces atrevido mundo de las interacciones humano-máquina. En este artículo, exploramos los hallazgos, la metodología y las implicaciones de este estudio.
Chatbots: más de lo que parece
Los chatbots se han vuelto omnipresentes en el paisaje digital actual, proporcionando asistencia, información y entretenimiento a usuarios de todo el mundo. Sin embargo, como descubrieron los investigadores de Carnegie Mellon, Stanford, UC Berkeley y San Diego, junto con la Universidad Mohamed bin Zayed de Inteligencia Artificial en Abu Dabi, estas interacciones pueden tomar giros inesperados.
La metodología del estudio
Los investigadores pudieron reunir un conjunto de datos sustancial para su estudio, gracias en parte a la “Chatbot Arena”. Esta plataforma gamificada permitía a los usuarios ingresar indicaciones y recibir respuestas de varios modelos de lenguaje grandes (LLM) lado a lado. Se animaba a los usuarios a votar por la calidad de las respuestas, lo que permitía a los investigadores recopilar un tamaño de muestra masivo. Además, el estudio incorporó conjuntos de datos de Vicuña, un competidor de código abierto de ChatGPT.
Estadísticas reveladoras
Categorización de temas inseguros
Clasificación de temas no seguros
Los investigadores identificaron tres categorías principales de conversaciones “inseguras”. Dos de estas categorías eran explícitamente sexuales: “solicitudes de narración explícita y erótica” y “fantasías sexuales explícitas y escenarios de roleplay”. La tercera categoría, “discutir comportamientos tóxicos entre diferentes identidades”, parecía centrarse en problemas relacionados con la intolerancia, aunque el artículo carecía de una definición clara de comportamiento tóxico.
Narración erótica: el tema más común
Entre las tres categorías, la narración erótica surgió como la más frecuente, representando el 5,71 % de las conversaciones de la muestra. Los usuarios participaban en intercambios narrativos explícitos que satisfacían sus fantasías, a menudo llevando a los chatbots al reino de la narración apasionada.
Fantasías explícitas y roleplay
La segunda categoría, que involucraba fantasías sexuales explícitas y escenarios de roleplay, constituía el 3,91 % de las conversaciones. Aquí, los usuarios exploraban sus deseos a través de roleplay imaginativo, demostrando la diversa gama de interacciones que ocurren con los chatbots.
Abordando la intolerancia
El estudio también descubrió el 2,66 % de interacciones con usuarios claramente intolerantes, destacando el problema más amplio del comportamiento tóxico dentro de las interacciones con IA. Sin embargo, los investigadores reconocieron que definir el “comportamiento tóxico” requería mayor claridad.
Implicaciones y direcciones futuras:
Si bien estos hallazgos pueden no resultar sorprendentes para los usuarios experimentados de Internet, arrojan luz sobre el mundo a menudo oculto de las interacciones humano-chatbot. A medida que los chatbots de IA continúan ganando prominencia en varios campos, incluida la academia, los negocios y la publicación, se vuelve imperativo comprender y abordar la diversidad de interacciones de los usuarios.
Los investigadores detrás de este estudio esperan que sus hallazgos contribuyan a hacer los chatbots más seguros para todos los usuarios. Garantizar la seguridad y la adecuación de las interacciones con chatbots es un paso vital para aprovechar el potencial de la IA en una amplia gama de aplicaciones.
En una era en la que los chatbots se están integrando cada vez más en nuestras vidas diarias, comprender los matices de estas interacciones es crucial. La exploración de los investigadores de 100.000 conversaciones del mundo real ha desenterrado valiosas perspectivas sobre la naturaleza diversa de las interacciones humano-chatbot. A medida que la tecnología continúa evolucionando, abordar los desafíos y garantizar la seguridad de estas interacciones será esencial para el desarrollo y despliegue responsables de los chatbots impulsados por IA.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
John Palmer
John Murangiri llegó a Cryptopolitan con habilidades en análisis de mercado. John (también conocido como JP) se graduó de la Universidad de Nairobi con un título de licenciatura en comunicación masiva y estudios de medios. Anteriormente, ha contribuido con perspectivas del mercado de criptomonedas a InsideBitcoins.com y Metacoingraph.
