A UNESCO teme que a IA possa distorcer a memória do Holocausto

A UNESCO manifestou preocupação com o fato de a IA generativa poder distorcer a história do Holocausto caso os desenvolvedores de IA não apliquem padrões éticos. Em um relatório divulgado na segunda-feira, UNICEF alertou para o potencial uso indevido da IA ​​generativa por pessoas mal-intencionadas.

Leia também: Bancos centrais precisam 'elevar o nível' em IA, alerta o BIS

O relatório da UNESCO alerta que pessoas mal-intencionadas podem usar a tecnologia para disseminar desinformação, informações errôneas e conteúdo enganoso sobre o Holocausto.

Os jovens são vulneráveis ​​a informações erradas

O relatório, publicado em conjunto com o Congresso Judaico Mundial, alerta que os jovens correm maior risco de receber informações distorcidas devido à sua alta exposição a tecnologias emergentes como a inteligência artificial.

Isso ocorre em um momento em que relatórios também sugerem que 80% dos jovens entre 10 e 24 anos usam IA para diversas tarefas, como trabalhos escolares, o que aumenta suas chances de acessar informações distorcidas.

“Se permitirmos que os fatos horríveis do Holocausto sejam diluídos, distorcidos ou falsificados por meio do uso irresponsável da IA, corremos o risco de uma disseminação explosiva do antissemitismo e de uma diminuição gradual da nossa compreensão sobre as causas e consequências dessas atrocidades.”

Audrey Azoulay, diretora-geral da UNESCO.

O relatório também destaca que a IA tem umatronpropensão a "simplificar demais a história complexa, privilegiando um leque restrito de fontes e uma pequena seleção de eventos". Por exemplo, cerca de 60% a 80% dos principais resultados de imagens de mecanismos de busca com IA mostram apenas um local do Holocausto, Auschwitz-Birkenau.

A UNESCO apela à ação para reforçar a ética

O relatório afirma que a IA pode perpetuar preconceitos existentes, e o Holocausto não ficará imune a esses preconceitos gerados pela IA. Segundo a UNESCO, já existe uma prevalência de desinformação sobre o Holocausto, que pode piorar devido ao uso da IA ​​generativa.

Leia também: Meta AI se expande para a Índia em meio à crescente competição de IA

Azoulay destacou a importância de se fazer cumprir padrões éticos para proteger os jovens de informações distorcidas.

“A implementação da Recomendação da UNESCO sobre Ética da IA ​​é urgente para que as gerações mais jovens cresçam com fatos e não com invenções.”

Azoulay.

O relatório destaca que modelos de IA como o ChatGPT da OpenAI e o Bard do Google, agora Gemini, tiveram alucinações sobre o Holocausto, detalhando eventos que nunca aconteceram. De acordo com a UNESCO, esses modelos "fabricaram o conceito do Holocausto por meio de campanhas de afogamento nas quais os nazistas afogaram judeus em rios e lagos"

Os modelos de IA também criaram citações falsas para sustentar essas narrativas distorcidas. Diante desses incidentes, a UNESCO defendeu uma abordagem multissetorial para enfrentar o desafio. Uma das soluções é a implementação célere da Recomendação sobre Ética da IA , adotada pelos Estados-membros em 2021.

A UNESCO também instou as empresas de tecnologia a respeitarem os princípios de justiça, transparência, direitos humanos e diligência devida. Oito empresas de tecnologia assinaram um compromisso com a diretora-geral da UNESCO em fevereiro, comprometendo-se a aplicar uma abordagem ética no desenvolvimento de seus modelos de IA.

Reportagem Cryptopolitan de Enacy Mapakame