Modelos de IA Generativa Codificam Vieses e Fabricam Informações Sem Sentido, Revela Pesquisa
- Modelos de IA generativa estão incorporando vieses e disseminando informações sem sentido, afetando desproporcionalmente grupos marginalizados.
- A falta de representação de incerteza em modelos generativos leva à aceitação de informações imprecisas como fato, distorcendo crenças.
- É necessária colaboração entre psicólogos e especialistas em aprendizado de máquina para avaliar e abordar o impacto dos modelos generativos nas crenças e vieses humanos.
Nos últimos meses, modelos de IA generativa como ChatGPT, Bard do Google e Midjourney ganharam crescente popularidade entre indivíduos para fins pessoais e profissionais. No entanto, pesquisas estão revelando uma tendência preocupante: esses modelos estão incorporando vieses e estereótipos negativos em seus usuários, ao mesmo tempo em que geram e disseminam informações sem sentido, mas aparentemente precisas.
As consequências deste fenômeno são particularmente severas para grupos marginalizados, que suportam um fardo desproporcional da disseminação de informações fabricadas. À medida que esses modelos se tornam mais prevalentes na World Wide Web, há uma preocupação crescente de que eles possam influenciar as crenças humanas. Um novo artigo de Perspectiva publicado na revista Science destaca a necessidade urgente de colaboração entre psicólogos e especialistas em aprendizado de máquina para avaliar a escala deste problema e desenvolver soluções.
Abeba Birhane, professora adjunta assistente na Escola de Ciência da Computação e Estatística da Trinity e Pesquisadora Sênior em IA Confiável na Mozilla Foundation, explica que os modelos generativos carecem da capacidade de comunicar incerteza, resultando em respostas confiantes e fluentes sem qualificadores apropriados ou representações de dúvida. Consequentemente, os indivíduos podem aceitar essas respostas como factualmente precisas, levando a uma distorção das crenças. Além disso, interesses financeiros e de responsabilidade incentivam as empresas a antropomorfizar os modelos generativos como inteligentes, empáticos ou até mesmo infantis, exacerbando o problema.
Impacto desproporcional em grupos marginalizados
As repercussões de vieses e informações fabricadas são particularmente pronunciadas entre as populações marginalizadas. O estudo enfatiza a importância de realizar análises detalhadas para medir o impacto dos modelos generativos nas crenças e vieses humanos. Ao focar nas comunidades marginalizadas mais afetadas por fabricações e estereótipos negativos nas saídas dos modelos, estudos e intervenções futuras podem abordar eficazmente essas questões.
Um exemplo concreto discutido na Perspectiva relaciona-se ao uso de modelos de IA generativa no sistema jurídico. Regularidades estatísticas dentro desses modelos resultaram em pontuações de risco mais altas sendo atribuídas a réus negros. Consequentemente, os juízes das cortes, tendo internalizado esses padrões, podem alterar suas práticas de sentença para se alinhar às previsões dos algoritmos. Mesmo que regulamentações sejam implementadas para restringir o uso de tais sistemas, este mecanismo de aprendizado estatístico pode perpetuar a crença de que indivíduos negros têm maior probabilidade de reincidir.
Desafios na superação de vieses e fabricações
Uma vez que vieses e informações fabricadas tenham sido aceitos pelos indivíduos, tornam-se difíceis de dissipar. As crianças são particularmente vulneráveis, pois têm maior probabilidade de antropomorfizar a tecnologia e são facilmente influenciadas. Reconhecendo isso, esforços devem ser feitos para educar o público, formuladores de políticas e cientistas interdisciplinares sobre o funcionamento dos modelos de IA generativa, dissipando a desinformação existente e contrariando alegações exageradas em torno dessas tecnologias.
O artigo de Perspectiva enfatiza a importância de uma análise rápida e abrangente para avaliar o impacto dos modelos generativos nas crenças e vieses humanos. Também apela por intervenções e recursos direcionados destinados a mitigar os efeitos sobre as populações marginalizadas. Além disso, campanhas de educação e conscientização devem ser realizadas para fornecer insights realistas sobre como esses modelos de IA funcionam e para corrigir equívocos e hype em torno de suas capacidades.
À medida que os modelos de IA generativa ganham adoção generalizada, a codificação de vieses e a fabricação de informações sem sentido representam preocupações significativas. As comunidades marginalizadas são afetadas desproporcionalmente, exacerbando as desigualdades existentes. A colaboração entre psicólogos e especialistas em aprendizado de máquina é crucial para avaliar a escala deste problema e elaborar soluções eficazes. Ao compreender o impacto dos modelos generativos nas crenças e vieses humanos, torna-se possível abordar e corrigir os vieses e fabricações embutidos nesses sistemas de IA.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
