Usuários Têm Dificuldade em Identificar IA em Plataformas Sociais, Mostra Estudo
- Bots de IA demonstraram alta eficácia em imitar conversas humanas, borrando as linhas nas interações das redes sociais.
- Apesar da conscientização, 58% dos participantes do estudo falharam em identificar com precisão bots de IA no discurso político.
- Vários modelos de IA apresentaram desempenho semelhante, indicando que até mesmo AIs menos avançadas podem simular convincentemente usuários humanos.
Um projeto de pesquisa na área de investigação de mídia social foi conduzido pela equipe da Universidade de Notre Dame, onde descobriram que o público geral enfrenta muitas dificuldades em determinar o humano da inteligência artificial durante as discussões políticas em diferentes plataformas online.
A pesquisa, dividida em três rodadas com uma plataforma Mastodon personalizada como sua plataforma de entrega, indica que os participantes confundem bots de IA com humanos 58% das vezes.
Bots de IA borram as fronteiras humanas no discurso político, mostra estudo
A equipe de investigação, sob a orientação do Dr. Paul Brenner do Centro de Pesquisa Computacional da Universidade de Notre Dame, adotou bots de IA baseados em redes generativas que incluem GPT4, Llama-2-Chat e Claude 2.
Esta geração de chatbots foi projetada com personalidades diversas para ser usada como jogadores políticos no campo dos assuntos mundiais e, mais frequentemente, assumindo traços humanos e envolvida em diferentes discussões políticas.
A beleza disso; era o fato de que cada bot tinha um personagem (emergência de uma personalidade com um perfil detalhado) que foi instruído a traçar uma relação entre experiências pessoais e eventos do mundo mais amplo.
Para manipulação de dados, apesar do painel entender que estava interagindo com humanos e bots, cerca de metade deste grupo amostral não conseguiu fazer a diferença entre inteligência artificial e humanos reais.
Esta evidência demonstra que os bots de IA podem imitar muito de perto os humanos no que diz respeito aos seus padrões de conversa, aumentando assim suas chances de serem usados para promover desinformação.
O papel da IA na desinformação
O Sr. Paul Brenner levantou questões como a adoção desses bots de IA e seu provável efeito cascata, uma oportunidade para os bots alimentados por IA influenciarem a opinião pública e possivelmente espalharem desinformação.
Ele explicou, que a IA em simulações, é tão eficaz; que cada ser humano na Internet, pode facilmente ser enganado quanto à fonte original da informação.
Outro aspecto importante destacado neste estudo foi a avaliação de diferentes modelos de IA no processo, mostrando que as taxas de precisão variaram pouco entre os vários LLMs. Aqui, chegamos a entender que este fato demonstra que até modelos menos sofisticados também poderiam ser convincentes o suficiente para criar conversas semelhantes às humanas em cenários de interação em redes sociais.
Portanto, entre outras coisas, na primeira linha Brenner destacou sua posição sobre uma abordagem multidimensional para a prevenção da propagação de informações falsas com a ajuda da IA.
essas iniciativas, como campanhas educativas, ação legislativa e validação mais rigorosa de contas em redes sociais, que se ajudarão mutuamente para acabar completamente com este problema. Além disso, as dimensões da saúde psicológica da influência da IA nos adolescentes estão prestes a ser consideradas e estratégias para negar esse impacto pretendem ser desenvolvidas.
Este projeto de pesquisa acentua o desequilíbrio da IA vs. integridade de informações online nas redes sociais que necessita do desenvolvimento de estratégias integradas para lidar com a situação.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assumimos responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
John Palmer
John Murangiri chegou à Cryptopolitan com habilidades em análise de mercado. John (também conhecido como JP) formou-se na Universidade de Nairobi com bacharelado em comunicação social e estudos de mídia. Ele já contribuiu anteriormente com insights sobre o mercado de criptomoedas para InsideBitcoins.com e Metacoingraph.
