Como sabemos, o conceito de endogamia envolve a corrupção do genoma quando indivíduos de um grupo geneticamente semelhante se reproduzem. Isso frequentemente resulta em deformidades e outros problemas de saúde em recém-nascidos. O mesmo está acontecendo com os modelos de IA atualmente, já que estão sendo treinados com conteúdo de outra IA, à medida que a internet se torna cada vez mais repleta de conteúdo gerado por IA. Essa endogamia da IA resultará em uma produção de conteúdo menos confiável e de pior qualidade, o que impactará negativamente as eleições americanas deste ano, segundo especialistas.
Quando os modelos de IA foram lançados inicialmente para otimizar tarefas e economizar tempo para criadores de conteúdo, eles eram treinados com conteúdo gerado por humanos, incluindo texto, áudio e vídeos. Atualmente, a maior parte do conteúdo disponível online é gerada por IA, visto que a internet está inundada desse tipo de conteúdo e os modelos de IA estão sendo processados com dados de baixa qualidade para treinamento.
Isso terá consequências a longo prazo para a sociedade humana e para a evolução da tecnologia de IA, visto que o conjunto de genes "limpos" está diminuindo. Por conjunto de genes "limpos", nos referimos ao conteúdo originalmente criado por humanos que estava disponível para o treinamento de IA. Segundo especialistas, estima-se que, em poucos anos, o conteúdo gerado por IA poderá representar quase 90% do conteúdo total disponível na internet. Isso ocorre porque ferramentas como ChatGPT, Gemini e Dall-E despejam diariamente enormes volumes de conteúdo em plataformas online, desde posts em blogs e redes sociais até a mídia tradicional.
IA estéril à frente
Segundo especialistas, a inteligência artificial generativa pode estar em declínio, pois talvez tenhamos atingido seu ápice. O Vale do Silício também está preocupado com essa crise, temendo que a inteligência artificial esteja se aproximando de um período de estagnação, já que os investidores podem considerá-la apenas uma moda passageira e pouco potencial de retorno.
Bernard Marr, autor e consultor de negócios de tecnologia, endossou uma matéria da Forbes juntamente com sua própria opinião.
A SwissCognitive, empresa de pesquisa e consultoria em IA, também afirmou que a endogamia na IA generativa representa perigos para a criatividade e a diversidade. Segundo a empresa, são necessários dados novos, gerados por humanos, para manter a eficácia e a robustez da IA.
A inteligência artificial para cruzamentos consanguíneos pode causar estragos nas eleições americanas
A consanguinidade em IA é um risco real. Digamos que você esteja treinando um modelo de IA com dados de outro modelo de IA, já que os dados disponíveis são apenas de esforços anteriores. Agora, imagine que os dados anteriores apresentavam diversos vieses e discrepâncias, ou conjuntos de dados incompletos. Nesse caso, seu novo modelo de IA apenas reforçará esses vieses. Com a imensa quantidade de desinformação disponível sobre eleições, incluindo deepfakes, notícias falsas sobre candidatos e figuras políticas podem ter os mesmos efeitos negativos nas próximas eleições, segundo especialistas.
O Washington Post afirmou em uma reportagem,
“Os anúncios políticos nunca foram conhecidos por retratar com precisão o adversário do candidato — e agora a inteligência artificial ameaça tornar a deturpação dos fatos mais realista do que nunca. Em vez de esperar que a IA cause o caos nas eleições de 2024, os órgãos reguladores, os legisladores e os partidos políticos devem agir agora.”
Fonte: Washington Post .
Podemos perceber o quão devastadores podem ser os efeitos do conteúdo manipulado com inteligência artificial por oponentes, apoiadores incondicionais ou atores estrangeiros que tentam desestabilizar o processo democrático.
O Issue One, um grupo de reforma política de Washington, compartilhou um tweet com uma notícia do The Philadelphia Inquirer. O tweet do Issue One é apenas uma amostra das preocupações desses grupos.
Como sabemos, as ferramentas de IA podem facilmente manipular fatos contra alguém, e essas ferramentas estão disponíveis para qualquer pessoa que queira usá-las. Juntamente com grupos patrocinados por estados, isso se tornou uma séria ameaça, e a disponibilidade das redes sociais para viralizar o conteúdo é apenas a cereja do cake . Um pequeno exemplo é a notícia falsa da plataforma X sobre o "Irã atacando Israel com mísseis pesados", que pode realmente influenciar o humor do público, e a ironia é que a notícia foi gerada pelo próprio chatbot da plataforma.
E não se esqueçam da ligação telefônica falsa imitando a voz de Biden, tentando dissuadir o público de votar nas primárias, apenas dois dias antes da votação. Independentemente de você amar ou odiar Biden, essas táticas maliciosas desempenham um papel importante. Estamos prestes a presenciar acontecimentos interessantes.
