Jovens aceitam o desafio e combatem as ameaças de deepfakes com a verdade

O Relatório de Riscos Globais do Fórum Econômico Mundial para 2024 emitiu um alerta contundente,denta desinformação e a informação falsa, impulsionadas principalmente por deepfakes, como os riscos globais mais graves que o mundo enfrentará nos próximos dois anos.

Nesse sentido, o Conselho de Inovação do Quebec também reconheceu a gravidade da situação após meses de consultas com especialistas e o público.

Desafios no combate aos Deepfakes

Os deepfakes, que utilizam inteligência artificial e IA generativa para criar falsificações hiper-realistas, vão além das maravilhas tecnológicas, representando uma profunda ameaça à sociedade. Apesar do desenvolvimento contínuo de ferramentas de detecção de deepfakes e dos esforços legislativos, ainda existe uma lacuna significativa no combate eficaz a essa ameaça.

Embora as ferramentas de detecção de deepfakes estejam em desenvolvimento, elas têm dificuldade em acompanhar o rápido avanço das capacidades dos algoritmos de deepfake. Os sistemas jurídicos e os governos também estão se esforçando para se manter à frente na luta contra a desinformação digital.

Diante desses desafios, ficadent que a tecnologia e a legislação, por si só, são insuficientes para enfrentar essa ameaça iminente.

preocupações com a desinformação política

Um dos aspectos mais alarmantes dos deepfakes é o seu potencial para alimentar a polarização política. Com quase três bilhões de pessoas previstas para votar em diversos países nos próximos dois anos, as campanhas de desinformação ameaçam minar a legitimidade dos governos recém-eleitos. 

Imagens falsas (deepfakes) de figuras proeminentes, como a supermodelo palestino-americana Bella Hadid, foram manipuladas para falsificar suas declarações políticas, demonstrando a capacidade da tecnologia de influenciar a opinião pública e distorcer narrativas políticas. O uso nefasto de deepfakes é exemplificado por casos como o de Greta Thunberg defendendo "granadas veganas"

Fraude financeira e danos pornográficos

Além da manipulação política, vídeos falsos estão sendo usados ​​para fraudes financeiras. Notavelmente, o popular YouTuber MrBeast foi alvo de uma falsificação de identidade em um golpe com deepfake no TikTok, resultando em prejuízo financeiro. Além disso, a pornografia deepfake representa uma grave preocupação, visto que os rostos de indivíduos são sobrepostos sem o seu consentimento em conteúdo explícito. 

Casos como a disseminação de imagens deepfake de conteúdo sexual explícito de Taylor Swift nas redes sociais ressaltam a vulnerabilidade a fraudes e golpes impulsionados por inteligência artificial, que têm como alvo pessoas de todas as idades.

Abordagens políticas e tecnológicas

Diversos países e gigantes da tecnologia implementaram políticas e tecnologias para combater as notícias falsas. Empresas como Meta e Google exigiram que anunciantes políticos divulguem a manipulação por IA em seus anúncios.

Além disso, pesquisadores estão desenvolvendo ferramentas avançadas de detecção de áudio deepfake, e leis, como a Deepfakes Accountability Act, foram apresentadas nos EUA e no Canadá. A União Europeia também tomou medidas para abordar a segurança online e a regulamentação da IA ​​por meio da Diretiva de Responsabilidade da IA.

Estudo de pesquisa com jovens

Para combater eficazmente a crescente onda de desinformação alimentada por deepfakes e tecnologias de IA, um projeto de pesquisa financiado pelo Conselho de Pesquisa em Ciências Sociais e Humanas (SSHRC) e pelo Patrimônio Canadense concentrou-se em capacitar os jovens com autonomia digital. 

O estudo incluiudentuniversitários canadenses com idades entre 18 e 24 anos, que participaram de workshops, entrevistas e discussões em grupos focais.

Por meio de experiências práticas na criação de deepfakes, os participantes obtiveram informações valiosas sobre a tecnologia e seu potencial para uso indevido. Inicialmente percebendo os deepfakes como incontroláveis, eles passaram a entender a gravidade da ameaça que representam e desenvolveram um senso de responsabilidade na prevenção de sua disseminação.

Recomendações para o empoderamento da juventude

Na luta contínua contra a desinformação gerada por deepfakes, as descobertas de pesquisas recentes oferecem recomendações valiosas para ações eficazes:

A educação desempenha um papel fundamental ao integrar a conscientização sobre deep fakes nos currículos. Ensinar as consequências da desinformação capacita osdenta avaliar criticamente o conteúdo.

Incentivar o pensamento crítico é fundamental. Proporcionar espaços para que os jovens questionem as normas sociais e educá-los sobre as políticas das redes sociais promove um comportamento online responsável.

A conscientização tecnológica é crucial. Ensinar osdenta reconhecer deepfakes, revelando o processo de criação, aprimora sua capacidade de identificar conteúdo enganoso.

O envolvimento ativo é incentivado. Os jovens devem se engajar em causas significativas, mantendo-se vigilantes contra a desinformação, e devem ser orientados a lidar com informações falsas de forma construtiva.

Uma estratégia multifacetada

Para combater eficazmente a proliferação de deepfakes, propõe-se uma estratégia multifacetada. Esta inclui a integração da educação sobre deepfakes nos currículos escolares, o fomento do pensamento crítico e da autonomia digital nos jovens e o incentivo à participação ativa e bem informada no combate aos deepfakes maliciosos. 

Uma abordagem educacional interdisciplinar, que combina tecnologia, psicologia, estudos de mídia e ética, também é enfatizada para compreender plenamente as implicações dos deepfakes.

O fator humano no combate aos Deepfakes

Esta pesquisa destaca o papel vital da educação e do fator humano no combate aos deepfakes. Confiar apenas em tecnologia e soluções legais é insuficiente. Ao capacitar as gerações mais jovens e a sociedade em geral com as habilidades necessárias para analisar criticamente e combater a desinformação, podemos cultivar uma sociedade digitalmente alfabetizada e resiliente, capaz de resistir ao poder manipulador das notícias falsas.

Em última análise, educar os indivíduos sobre seus papéis e sua responsabilidade na proteção da integridade do nosso mundo digital é essencial.