Utilizando Inteligência Artificial para se Proteger Contra a Propagação de Desinformação

A questão pervasiva da desinformação online está impulsionando soluções inovadoras, com a inteligência artificial (IA) emergindo como um possível divisor de águas. À medida que os deepfakes gerados por IA elevam as apostas para golpes de voz e vídeo, especialistas estão explorando maneiras de alavancar a IA e a tecnologia blockchain para identificar e combater a propagação de notícias falsas. Esta nova abordagem busca priorizar o combate à desinformação nas áreas onde ela apresenta o maior potencial de dano, visando capacitar os criadores de conteúdo a enfrentar eficazmente a ameaça da desinformação.

Vamos esclarecer desinformação vs. desinformação maliciosa. Desinformação é informação falsa que é espalhada, independentemente de haver intenção de enganar, enquanto desinformação maliciosa significa “informação falsa, como sobre a força militar ou planos de um país, disseminada por um governo ou agência de inteligência em um ato hostil de subversão política tática.” Também é usada para significar “informação deliberadamente enganosa ou tendenciosa; narrativa ou fatos manipulados; propaganda.”

Embora possamos ter as ferramentas para resolver a desinformação, pode não estarmos em posição de combater a desinformação maliciosa ou sermos acusados de traição. A desinformação maliciosa envolve orçamentos militares governamentais, está coberta por acordos de confidencialidade (NDA) e é mantida em sigilo por razões de segurança. Obter tais informações pode ser interpretado como espionagem ou curiosidade mal colocada que poderia custar seu emprego no governo.

O impacto da desinformação e a necessidade de contramedidas

As consequências prejudiciais da desinformação tornam imperativo encontrar estratégias eficazes para seu controle. A linha tênue entre informação real e fabricada, ampliada pela disseminação rápida de notícias falsas nas plataformas de mídia social, pode levar a decisões equivocadas e reações impulsivas do público.

Manjeet Rege, Diretor do Centro de Inteligência Artificial Aplicada na Universidade de St. Thomas, enfatiza que a informação precisa é fundamental para a tomada de decisões informada. Ele aponta que a velocidade com que as notícias falsas podem se tornar virais exige ação imediata para combater sua influência.

O papel duplo da IA na criação e detecção de notícias falsas

Pesquisas recentes destacam o potencial dos sistemas de aprendizado de máquina para avaliar o dano potencial do conteúdo e identificar os infratores mais graves. Por exemplo, durante o auge da pandemia de COVID-19, o uso de IA identificou instâncias de notícias falsas promovendo tratamentos não verificados em vez de vacinas.

Thi Tran, professora de sistemas de informação de gestão liderando esta pesquisa, enfatiza que a ameaça das notícias falsas é mais preocupante quando causa dano tangível aos leitores ou ao público. Identificar áreas onde a desinformação é provável que seja mais prejudicial permite uma abordagem direcionada aos esforços de mitigação.

A sofisticação em evolução da IA e os perigos dos deepfakes

À medida que a tecnologia de IA se torna mais sofisticada, distinguir entre conteúdo real e falso torna-se cada vez mais desafiador. Deepfakes gerados por IA, que incluem áudios e vídeos falsificados, representam sérias ameaças. Sameer Hajarnis, Diretor de Produtos da empresa de verificação digital OneSpan, destaca os perigos dos deep lakes (deepfakes) em golpes de phishing de voz e vídeo, observando que os criminosos que exploram essas táticas estão aumentando.

Um incidente notável envolve um vídeo deepfake aparentemente endossando uma oportunidade de investimento pelo proeminente defensor das finanças do consumidor Martin Lewis, atribuído a Elon Musk. Este vídeo, mais tarde revelado como um deepfake gerado por IA, sublinha o poder da IA na perpetuação de fraudes.

Múltiplas abordagens para combater a desinformação

Enquanto a abordagem da Universidade de Binghamton utiliza aprendizado de máquina para avaliar o dano potencial do conteúdo, a IA também possui a capacidade de detectar autenticidade. Alguns conteúdos gerados por IA podem parecer altamente convincentes para humanos, mas podem ser facilmente identificados como falsos por modelos de IA.

A criptografia oferece outra via na luta contra as notícias falsas. Yale Fox, especialista em segurança cibernética e Membro da IEEE, sugere o uso de criptografia para fornecer prova de identidade pessoal. Codificar vídeos com chaves públicas permite a verificação fácil da autenticidade. Esta abordagem elimina a necessidade de algoritmos de IA complexos e pode ser executada em várias plataformas e dispositivos.

Abordar as notícias falsas requer uma abordagem multifacetada, abrangendo tanto soluções tecnológicas quanto mudanças culturais mais amplas. Subramaniam Vincent, Diretor do programa de jornalismo e ética na mídia no Centro Markkula de Ética Aplicada na Universidade de Santa Clara, sublinha a necessidade de colaboração entre os jogadores da indústria de IA e empresas de mídia de notícias. Além disso, nutrir valores democráticos na política e nas eleições é essencial para criar um ambiente onde as ferramentas de IA possam combater eficazmente a distribuição de notícias falsas.

A IA de fato exerce influência significativa, mas deve trabalhar em tandem com outros fatores para combater os desafios intricados impostos pela desinformação. À medida que a batalha pela democracia ruge diante da desinformação, a IA emerge como uma ferramenta potente, embora uma que requer uma abordagem abrangente para ser verdadeiramente eficaz.