A UNESCO manifestou preocupação com o fato de a IA generativa poder distorcer a história do Holocausto caso os desenvolvedores de IA não apliquem padrões éticos. Em um relatório divulgado na segunda-feira, UNICEF alertou para o potencial uso indevido da IA generativa por pessoas mal-intencionadas.
Leia também: Bancos centrais precisam 'elevar o nível' em IA, alerta o BIS
O relatório da UNESCO alerta que pessoas mal-intencionadas podem usar a tecnologia para disseminar desinformação, informações errôneas e conteúdo enganoso sobre o Holocausto.
Os jovens são vulneráveis a informações erradas
O relatório, publicado em conjunto com o Congresso Judaico Mundial, alerta que os jovens correm maior risco de receber informações distorcidas devido à sua alta exposição a tecnologias emergentes como a inteligência artificial.
Isso ocorre em um momento em que relatórios também sugerem que 80% dos jovens entre 10 e 24 anos usam IA para diversas tarefas, como trabalhos escolares, o que aumenta suas chances de acessar informações distorcidas.
“Se permitirmos que os fatos horríveis do Holocausto sejam diluídos, distorcidos ou falsificados por meio do uso irresponsável da IA, corremos o risco de uma disseminação explosiva do antissemitismo e de uma diminuição gradual da nossa compreensão sobre as causas e consequências dessas atrocidades.”
Audrey Azoulay, diretora-geral da UNESCO.
O relatório também destaca que a IA tem umatronpropensão a "simplificar demais a história complexa, privilegiando um leque restrito de fontes e uma pequena seleção de eventos". Por exemplo, cerca de 60% a 80% dos principais resultados de imagens de mecanismos de busca com IA mostram apenas um local do Holocausto, Auschwitz-Birkenau.
A UNESCO apela à ação para reforçar a ética
O relatório afirma que a IA pode perpetuar preconceitos existentes, e o Holocausto não ficará imune a esses preconceitos gerados pela IA. Segundo a UNESCO, já existe uma prevalência de desinformação sobre o Holocausto, que pode piorar devido ao uso da IA generativa.
Leia também: Meta AI se expande para a Índia em meio à crescente competição de IA
Azoulay destacou a importância de se fazer cumprir padrões éticos para proteger os jovens de informações distorcidas.
“A implementação da Recomendação da UNESCO sobre Ética da IA é urgente para que as gerações mais jovens cresçam com fatos e não com invenções.”
Azoulay.
O relatório destaca que modelos de IA como o ChatGPT da OpenAI e o Bard do Google, agora Gemini, tiveram alucinações sobre o Holocausto, detalhando eventos que nunca aconteceram. De acordo com a UNESCO, esses modelos "fabricaram o conceito do Holocausto por meio de campanhas de afogamento nas quais os nazistas afogaram judeus em rios e lagos"
Os modelos de IA também criaram citações falsas para sustentar essas narrativas distorcidas. Diante desses incidentes, a UNESCO defendeu uma abordagem multissetorial para enfrentar o desafio. Uma das soluções é a implementação célere da Recomendação sobre Ética da IA , adotada pelos Estados-membros em 2021.
A UNESCO também instou as empresas de tecnologia a respeitarem os princípios de justiça, transparência, direitos humanos e diligência devida. Oito empresas de tecnologia assinaram um compromisso com a diretora-geral da UNESCO em fevereiro, comprometendo-se a aplicar uma abordagem ética no desenvolvimento de seus modelos de IA.
Reportagem Cryptopolitan de Enacy Mapakame
