Um em cada dez usuários de chatbots são grandes pervertidos, descobrem pesquisadores
- Dado chocante: 1 em cada 10 usuários de chatbot interage para fins eróticos, diz novo estudo.
- Pesquisadores usam a 'Chatbot Arena' para analisar 100 mil conversas, revelando comportamento inesperado dos usuários.
- Abordar a segurança nas interações com IA é crucial à medida que os chatbots se integram cada vez mais às nossas vidas.
Em um estudo revelador, os pesquisadores mergulharam no mundo das interações com chatbots e descobriram uma estatística não tão surpreendente: aproximadamente um em cada dez pessoas que interagem com chatbots o fazem por propósitos eróticos. Esta pesquisa reveladora, baseada em 100.000 conversas do mundo real, oferece um vislumbre único do mundo variado e por vezes picante das interações humano-bote. Neste artigo, exploramos as descobertas, metodologia e implicações deste estudo.
Chatbots: mais do que aparentam
Os chatbots tornaram-se ubíquos na paisagem digital atual, fornecendo assistência, informações e entretenimento aos usuários em todo o mundo. No entanto, conforme descobriram os pesquisadores da Carnegie Mellon, Stanford, UC Berkeley e San Diego, juntamente com a Universidade Mohamed bin Zayed de Inteligência Artificial em Abu Dhabi, essas interações podem tomar rumos inesperados.
A metodologia do estudo
Os pesquisadores conseguiram reunir um conjunto de dados substancial para seu estudo, graças em parte à "Chatbot Arena". Esta plataforma gamificada permitia que os usuários inserissem prompts e recebessem respostas de vários modelos de linguagem grandes (LLMs) lado a lado. Os usuários eram incentivados a votar na qualidade das respostas, permitindo que os pesquisadores reunissem uma amostra massiva. Além disso, o estudo incorporou conjuntos de dados da Vicuña, um concorrente de código aberto do ChatGPT.
Estatísticas reveladoras
As descobertas do estudo pintam um quadro vívido das interações com chatbots. Das 100.000 conversas do mundo real analisadas, 10% foram encontradas de natureza erótica. Enquanto metade das conversas girava em torno de tópicos cotidianos como dicas de programação e assistência na escrita, a outra metade tomou um rumo mais explícito, incluindo roleplay conversacional e várias trocas "inseguras".
Categorizando tópicos inseguros
Os pesquisadores identificaram três categorias principais de conversas "inseguras". Duas dessas categorias eram explicitamente sexuais: "solicitações por narrativas explícitas e eróticas" e "fantasias sexuais explícitas e cenários de roleplay". A terceira categoria, "discutindo comportamento tóxico entre diferentes identidades", parecia focar em questões relacionadas ao bigismo, embora o artigo carecesse de uma definição clara de comportamento tóxico.
Narrativas eróticas: o tema mais comum
Entre as três categorias, as narrativas eróticas emergiram como as mais frequentes, representando 5,71% das conversas da amostra. Os usuários engajavam-se em trocas narrativas explícitas que atendiam às suas fantasias, muitas vezes levando os chatbots ao reino das histórias picantes.
Fantasias explícitas e roleplay
A segunda categoria, envolvendo fantasias sexuais explícitas e cenários de roleplay, constituiu 3,91% das conversas. Aqui, os usuários exploravam seus desejos através de roleplay imaginativo, demonstrando a diversa gama de interações que ocorrem com os chatbots.
Abordando o bigismo
O estudo também descobriu 2,66% das interações com usuários claramente bigotos, destacando a questão mais ampla do comportamento tóxico nas interações com IA. No entanto, os pesquisadores reconheceram que definir "comportamento tóxico" exigia maior clareza.
Implicações e direções futuras:
Embora essas descobertas possam não surpreender os usuários experientes da internet, elas iluminam o mundo muitas vezes oculto das interações humano-chatbot. À medida que os chatbots de IA continuam a ganhar proeminência em vários campos, incluindo academia, negócios e publicação, torna-se imperativo entender e abordar a diversidade das interações dos usuários.
Os pesquisadores por trás deste estudo esperam que suas contribuições ajudem a tornar os chatbots mais seguros para todos os usuários. Garantir a segurança e a adequação das interações com chatbots é um passo vital para aproveitar o potencial da IA em uma ampla gama de aplicações.
Em uma era em que os chatbots estão se tornando cada vez mais integrados em nossas vidas diárias, entender as nuances dessas interações é crucial. A exploração dos pesquisadores de 100.000 conversas do mundo real desenterraram insights valiosos sobre a natureza diversa das interações humano-chatbot. À medida que a tecnologia continua a evoluir, abordar os desafios e garantir a segurança dessas interações será essencial para o desenvolvimento e implantação responsáveis de chatbots impulsionados por IA.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
John Palmer
John Murangiri chegou à Cryptopolitan com habilidades em análise de mercado. John (também conhecido como JP) formou-se na Universidade de Nairobi com bacharelado em comunicação social e estudos de mídia. Ele já contribuiu anteriormente com insights sobre o mercado de criptomoedas para InsideBitcoins.com e Metacoingraph.
