- Um relatório da UNESCO levanta o temor de que a IA possa apagar a história correta do Holocausto.
- Os jovens estão em risco devido à sua alta exposição aos produtos de IA.
- A UNESCO pediu a implementação urgente de princípios éticos.
A UNESCO levantou preocupações de que a IA generativa pode distorcer a história do Holocausto se os desenvolvedores de IA não aplicarem padrões éticos. Em um relatório lançado na segunda-feira, a UNICEF alertou sobre o potencial uso indevido da IA generativa por atores mal-intencionados.
Também leia: Bancos centrais devem ‘elevar o nível’ na IA, alerta BIS
O relatório da UNESCO alerta que atores mal-intencionados podem usar a tecnologia para espalhar desinformação, informação enganosa e conteúdo enganoso sobre o Holocausto.
Jovens são vulneráveis a informações erradas
O relatório, publicado em conjunto com o Congresso Judaico Mundial, alerta que os jovens estão mais em risco de receber informações distorcidas devido à sua alta exposição a tecnologias emergentes como a IA.
Isso ocorre enquanto relatórios também sugerem que 80% dos jovens entre 10 e 24 anos usam IA para várias tarefas, como trabalhos escolares, o que aumenta suas chances de acessar informações distorcidas.
“Se permitirmos que os fatos horríficos do Holocausto sejam diluídos, distorcidos ou falsificados através do uso irresponsável da IA, corremos o risco da propagação explosiva do antissemitismo e da diminuição gradual de nossa compreensão sobre as causas e consequências dessas atrocidades.”
Audrey Azoulay, diretora-geral da UNESCO.
O relatório também destaca que a IA tem uma forte propensão a “simplificar excessivamente a história complexa, privilegiando uma faixa estreita de fontes e uma pequena seleção de eventos.” Por exemplo, cerca de 60% a 80% dos principais resultados de imagem dos mecanismos de busca alimentados por IA mostram apenas um local do Holocausto, o Auschwitz-Birkenau.
A UNESCO pede ação para aplicar a ética
O relatório mantém que a IA pode perpetuar vieses existentes, e o Holocausto não estará isento desses vieses de IA. Já existe uma prevalência de desinformação sobre o Holocausto, de acordo com a UNESCO, que pode piorar devido ao uso de IA generativa.
Também leia: Meta AI expande para a Índia em meio à crescente competição de IA
Azoulay destacou a importância de aplicar padrões éticos para proteger os jovens de informações distorcidas.
“Implementar a Recomendação da UNESCO sobre Ética da IA é urgente para que as gerações mais jovens cresçam com fatos, e não com fabricações.”
Azoulay.
O relatório destaca que modelos de IA como o ChatGPT da OpenAI e o Bard do Google, agora Gemini, alucinaram sobre o Holocausto, detalhando eventos que nunca aconteceram. De acordo com a UNESCO, esses modelos “fabricaram o conceito do Holocausto afogando campanhas nas quais os nazistas afogavam judeus em rios e lagos.”
Os modelos de IA também criaram citações falsas para apoiar essas narrativas distorcidas. À luz desses incidentes, a UNESCO pediu uma abordagem multissetorial para enfrentar o desafio. Uma das soluções é a implementação rápida da Recomendação sobre Ética da IA, que foi adotada pelos estados membros em 2021.
A UNESCO também instou as empresas de tecnologia a respeitar os princípios de justiça, transparência, direitos humanos e due diligence. Oito empresas de tecnologia assinaram um compromisso com a diretora-geral da UNESCO em fevereiro, comprometendo-se a aplicar uma abordagem ética no desenvolvimento de seus modelos de IA.
Reportagem do Cryptopolitan por Enacy Mapakame
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Enacy Mapakame
Enacy Mapakame é jornalista com mais de 10 anos de experiência em notícias de negócios e finanças. Cobre mercados de capitais e tecnologias emergentes — metaverso, IA e criptomoedas. Enacy possui graduação honrosa em Estudos de Mídia e Sociedade.
