O chatbot de IA da Meta gera preocupações sobre a influência nas redes sociais

A Meta, empresa controladora do Facebook, iniciou uma discussão utilizando seu novo chatbot de inteligência artificial, o Meta AI, que abrange todas as suas plataformas de mídia social. O chatbot se apresenta como uma enciclopédia, um guia, um conselheiro, um ilustrador e muito mais. No entanto, essa iniciativa gerou algumas preocupações sobre a possível influência que a inteligência artificial pode exercer sobre as experiências nas redes sociais.

A crescente presença da IA ​​nas redes sociais

A inteligência artificial generativa chega às redes sociais. Por exemplo, o TikTok possui uma enorme equipe de engenharia trabalhando no desenvolvimento de grandes modelos de linguagem capazes de reconhecer e gerar texto. A empresa chega a contratar redatores e jornalistas para anotar e aprimorar o desempenho desses modelos de IA.

Isso já está sendo sugerido na página de ajuda da Meta, que afirma que a empresa pode usar as mensagens que as pessoas fornecem para ajudar a treinar modelos de IA e aprimorar as capacidades da tecnologia. Especialistas em IA afirmam que os usuários de redes sociais devem se preparar para mais novidades, que podem remodelar suas experiências para melhor ou para pior.

“Todo mundo faz o possível para chamar a atenção.” Ethan Mollick, professor da Wharton School da Universidade da Pensilvânia, destaca isso como a aplicação mais importante da IA ​​em aplicativos de mídia social atualmente: tornar suas plataformas o mais atraentes possível para os consumidores. Aplicativos como o Instagram estão buscando maneiras de manter os usuários o mais engajados possível, pois isso maximizará o tempo disponível para publicidade.

Encontrando o equilíbrio: Regulação e moderação

Durante a teleconferência de resultados do primeiro trimestre do Facebook, Mark Zuckerberg reconheceu que levaria algum tempo até que a empresa visse o retorno dos investimentos em chatbots e outras aplicações de IA. Mas a tecnologia já está mudando a experiência do usuário nas plataformas que a empresa possui. Cerca de 30% do conteúdo no feed do Facebook é fornecido por sistemas de recomendação de IA, e mais da metade do conteúdo do Instagram é exibido pelo mesmo método.

Embora a IA possa personalizar a experiência do usuário ou até mesmo criar outros conteúdos, ela também pode personalizar outros tipos de conteúdo — como retratos e músicas —, na visão de especialistas, que alertam para possíveis problemas. Jaime Sevilla, diretor da Epoch, um instituto de pesquisa focado nas tendências atuais e futuras da tecnologia de IA, expressou suas preocupações sobre o poder de persuasão da IA ​​e a possível disseminação de informações falsas.

Um estudo demonstra que o GPT-4, liderado por pesquisadores de IA do Instituto Federal Suíço de Tecnologia de Lausanne, teve um desempenho 81,7% melhor do que humanos em obter consenso em uma discussão. O estudo ainda não foi revisado por pares, mas Sevilha já soou o alarme, especialmente em relação aos impactos que a tecnologia pode ter na disseminação de golpes e fraudes.

À medida que os Estados Unidos se encaminham para mais uma temporada eleitoral politicamente acirrada, os legisladores fariam bem em atentar para os perigos da IA ​​e sua relação com a disseminação de desinformação. Bindu Reddy é CEO e cofundadora da Abacus.AI. Ela propõe algo mais sutil do que medidas drásticas, como a proibição do uso de IA em plataformas de mídia social, pois agentes mal-intencionados já espalhavam desinformação online muito antes mesmo da invenção da IA.

Reddy, por sua vez, defendeu a proibição de deepfakes que gerem humanos ou seres semelhantes a humanos por meio de inteligência artificial, mas criticou restrições abrangentes como as impostas pela União Europeia. Ela afirmou que os Estados Unidos não devem ficar para trás em relação a outros países no desenvolvimento de IA.

Os chatbots com inteligência artificial e inovações semelhantes nas redes sociais estão em desenvolvimento, e é necessário um equilíbrio entre inovação e regulamentação responsável para garantir a proteção da experiência do usuário, bem como os princípios democráticos em todo o mundo.