Dilema do Deepfake: Media Manipulados Gerados por IA Levantam Alarmes
- Deepfakes gerados por inteligência artificial levantam alarmes antes das eleições nos EUA, preocupando figuras públicas e legisladores.
- Taylor Swift e outras figuras de alto perfil foram alvo de conteúdo falso, destacando a necessidade de regulamentações mais rigorosas.
- O especialista em IA Henry Ajder insta à ação coletiva para combater a facilidade de criação e compartilhamento de mídia manipulada, enquanto crescem as preocupações sobre notícias geradas por IA.
O conteúdo deepfake gerado por inteligência artificial emergiu como uma fonte de preocupação à medida que o ciclo eleitoral dos Estados Unidos se aproxima. Estas peças de media manipuladas, que variam desde imagens explícitas fabricadas até vozes alteradas de figuras proeminentes, tornaram-se virais nas plataformas de redes sociais, gerando apreensão entre legisladores, figuras públicas e o público em geral.
Incidente de Swift: Imagens deepfake de Taylor Swift
Um incidente notável envolve a criação e disseminação de imagens explícitas falsas da cantora Taylor Swift. Estas imagens ganharam milhões de visualizações na plataforma de redes sociais X (anteriormente conhecida como Twitter) antes de serem removidas. Apesar de ter regras contra este tipo de conteúdo, a plataforma, propriedade de Elon Musk, enfrentou desafios na remoção rápida das imagens deepfake.
As preocupações em torno dos deepfakes provocaram reações de figuras proeminentes, incluindo a secretária de imprensa da Casa Branca, Karine Jean-Pierre. Manifestando a sua alarme, Jean-Pierre afirmou: “Estamos alarmados com os relatos sobre a circulação de imagens falsas.” Este incidente sublinha o potencial dano que os media manipulados podem infligir, levantando questões sobre a necessidade de regulamentações mais rigorosas.
A base de fãs de Swift expressou indignação após o incidente, levando à frase “proteger Taylor Swift” a tornar-se uma tendência na plataforma. O episódio serve como um lembrete do impacto emocional que o conteúdo deepfake pode ter nos indivíduos e da importância de salvaguardar a identidade das figuras públicas.
Aviso de especialista em IA
O especialista em IA Henry Ajder, que monitoriza de perto os desenvolvimentos em inteligência artificial e tecnologia deepfake, destacou a facilidade com que conteúdo deepfake perturbador pode ser criado. Ele enfatizou que esta questão é particularmente preocupante para mulheres e meninas, independentemente da sua localização geográfica ou estatuto social.
Ajder apelou às empresas e aos reguladores para que tomassem medidas decisivas para conter a disseminação de media manipulados. Ele instou as partes interessadas a “fazer um trabalho melhor criando fricção desde que alguém forme a ideia de criar e partilhar o conteúdo.” Isto sublinha a necessidade de esforços coletivos para abordar eficazmente esta ameaça crescente.
Os recentes incidentes de deepfake não são casos isolados. No ano passado, estudantes de uma escola em Nova Jérsei e um programador utilizaram a IA para gerar e partilhar imagens falsas e desinformação. Estes exemplos sublinham o potencial uso indevido da tecnologia de IA e a necessidade urgente de salvaguardas contra as suas aplicações prejudiciais.
Mesmo celebridades de grande destaque, como a atriz Scarlett Johansson, foram vítimas da tecnologia deepfake. Johansson processou um gerador de IA pelo uso não autorizado da sua imagem, destacando os desafios legais em torno do conteúdo deepfake.
Notícias geradas por IA: Uma preocupação crescente
Para além dos casos individuais, as preocupações sobre o impacto das notícias geradas por IA estão a aumentar. Relatórios recentes revelaram a existência de 49 sites de notícias gerados por IA, levantando questões sobre o potencial da tecnologia para aprimorar técnicas fraudulentas na disseminação de notícias. Isto sublinha ainda mais a necessidade de vigilância e supervisão na era da IA.
À medida que o ciclo eleitoral dos EUA se aproxima, os deepfakes gerados por inteligência artificial tornaram-se uma fonte de preocupação generalizada. A facilidade com que os media manipulados podem ser criados e disseminados alarmou figuras públicas, legisladores e o público. Incidentes recentes envolvendo Taylor Swift, Joe Biden e outros servem como um lembrete claro do potencial dano que os deepfakes podem infligir aos indivíduos e à sociedade.
Além disso, incidentes históricos e o uso indevido da IA na geração de conteúdo falso sublinham a necessidade de medidas proativas para se proteger contra as suas aplicações prejudiciais. À medida que o debate sobre as notícias geradas por IA continua, é claro que a vigilância e a regulamentação são essenciais para proteger os indivíduos e a integridade da informação num mundo cada vez mais digitalizado.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
