- A internet está agora se preenchendo com mais conteúdo gerado por IA em comparação ao conteúdo humano.
- Essa situação pode trazer perigos estranhos para a sociedade humana e para a própria tecnologia de IA, já que está passando por um processo de endogamia ao ser treinada com outros conteúdos gerados por IA.
- As eleições nos EUA deste ano, infelizmente, coincidiram com esse fenômeno desastroso, e a desinformação pode afetar negativamente as eleições.
Como sabemos, o conceito de endogamia envolve a corrupção do genoma quando indivíduos de um grupo geneticamente semelhante se reproduzem. Isso frequentemente resulta em deformidades e outros problemas de saúde relacionados em recém-nascidos. O mesmo está acontecendo com os modelos de IA no momento, pois eles estão sendo treinados em conteúdo de outra IA, à medida que a internet está ficando cada vez mais cheia de conteúdo gerado por IA. Essa endogamia da IA resultará na produção de conteúdo não confiável e pior, o que impactará negativamente as eleições dos EUA neste ano, de acordo com especialistas.
Quando os modelos de IA foram lançados pela primeira vez para simplificar tarefas e economizar tempo para criadores de conteúdo, eles foram treinados em conteúdo gerado por humanos, incluindo texto, áudio e vídeos. E agora, a maioria do conteúdo disponível online é principalmente gerada por IA, pois a internet está inundada com isso e os modelos de IA estão processando dados de baixa qualidade para fins de treinamento.
Isso terá consequências de longo prazo para a sociedade humana e a evolução da tecnologia de IA, pois o pool genético limpo está diminuindo. Por pool genético limpo, queremos dizer o conteúdo criado originalmente por humanos que estava disponível para treinar a IA. De acordo com os especialistas, eles estimaram que, em alguns anos, o conteúdo gerado por IA pode atingir quase 90% do conteúdo total disponível na internet. À medida que figuras como ChatGPT, Gemini e Dall-E despejam enormes volumes de conteúdo diariamente nas plataformas online, desde postagens de blog até redes sociais e até mesmo na mídia principal.
IA sem futuro
De acordo com especialistas, a IA generativa pode estar em declínio, pois atingimos seu clímax. O Vale do Silício também está preocupado com essa crise, pois teme que a inteligência artificial esteja se aproximando de um inverno, já que os investidores podem considerar a IA como um hype e não haver mais muito a ser explorado.
Bernard Marr, autor e consultor de negócios de tecnologia, endossou uma matéria da Forbes junto com sua própria opinião.
Uma empresa de pesquisa e consultoria em IA, a SwissCognitive, também afirmou que o endogamia da IA generativa representa perigos para a criatividade e a diversidade. Eles disseram que dados gerados por humanos são necessários para manter a eficácia e a robustez da IA.
A endogamia da IA pode causar estragos nas eleições dos EUA
A endogamia da IA é um risco real. Digamos que você esteja treinando um modelo de IA em dados de outro modelo de IA, já que os dados estão disponíveis apenas de esforços anteriores. Agora, imagine que os dados anteriores tinham vários vieses e discrepâncias, ou conjuntos de dados incompletos. Agora, seu novo modelo de IA apenas reforçará esses vieses. Com uma enorme quantidade de desinformação sobre eleições, incluindo deepfakes e notícias falsas sobre candidatos e funcionários políticos, podem ter os mesmos efeitos negativos nas próximas eleições, de acordo com especialistas.
O Washington Post disse em uma matéria,
“Os anúncios políticos nunca foram conhecidos por retratar com precisão o oponente do candidato — e agora a inteligência artificial ameaça tornar a distorção mais realista do que nunca. Em vez de esperar que a IA cause caos nas eleições de 2024, reguladores, legisladores e partidos políticos devem agir agora.”
Fonte: Washington Post.
Podemos perceber o quão devastadores podem ser os efeitos do conteúdo manipulado com inteligência artificial por oponentes, apoiadores fanáticos ou atores estrangeiros tentando desestabilizar o processo democrático.
A Issue One, um grupo de reforma política de Washington, compartilhou um tweet contendo uma peça de notícias do The Philadelphia Inquirer. O tweet da Issue One é apenas um vislumbre das preocupações que esses grupos têm em mente.
Como sabemos, as ferramentas de IA podem facilmente manipular fatos contra alguém, e essas ferramentas estão disponíveis para uso por qualquer pessoa que queira usá-las. Junto com grupos patrocinados pelo Estado, tornou-se uma ameaça séria, e a disponibilidade de redes sociais para viralizar o conteúdo é apenas o cerejo do bolo. Um pequeno exemplo é a fake news na plataforma X sobre "Irã atacando Israel com mísseis pesados", o que pode realmente mudar o humor do público, e a piada é que a notícia foi gerada pelo próprio chatbot da plataforma.
E não se esqueça da falsa chamada de voz imitando a voz de Biden, tentando desencorajar o público a votar antes de uma primária apenas dois dias antes do dia da votação. Você ama ou odeia Biden, mas essas táticas malignas desempenham um papel. Estamos prestes a testemunhar alguns acontecimentos interessantes.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
