Programar chatbots para que não produzam conteúdo controverso é um problema de liberdade de expressão?

O tema em voga atualmente é a inteligência artificial e seu impacto na tecnologia, nas artes e na literatura, e agora surge uma nova questão: será que a expressão gerada por IA também teria algum tipo de proteção sob a Primeira Emenda? Pesquisadores vêm tentando imitar as capacidades do cérebro humano com IA desde o início de sua evolução, como criatividade, resolução de problemas e reconhecimento de fala. A primeira é considerada uma capacidade exclusiva do cérebro humano, enquanto as duas últimas estão, em certa medida, no campo da IA.

O chatbot Gemini gerou imagens controversas

Basicamente, a IA pode ser qualquer coisa, desde um conjunto de algoritmos até um sistema que toma trilhões de decisões em qualquer plataforma, como a configuração do banco de dados de uma empresa ou um site de rede social, ou pode ser um chatbot. No final de fevereiro, o Google anunciou a suspensão do seu chatbot, Gemini, e que ele não geraria mais imagens de pessoas. O motivo foi que o Gemini causou polêmica ao gerar imagens de cenas com pessoas negras em contextos historicamente dominados por pessoas brancas, e críticos argumentaram que, se a empresa estivesse corrigindo o bot para evitar o risco de viés, o Google publicou um tweet no Twitter afirmando que..

“Já estamos trabalhando para resolver os problemas recentes com o recurso de geração de imagens do Gemini. Enquanto fazemos isso, vamos pausar a geração de imagens de pessoas e relançaremos uma versão aprimorada em breve.”

Fonte: Google.

Segundo dois acadêmicos renomados, Jordi Calvet-Bademunt e Jacob Mchangama, ambos da Universidade Vanderbilt, os esforços para combater o viés da IA ​​e a discussão sobre suas tendências políticas são importantes, mas eles levantaram outra questão, frequentemente menos debatida, que diz respeito à abordagem do setor de IA em relação à liberdade de expressão.

Pesquisadores avaliam a abordagem da IA ​​para a liberdade de expressão

Os pesquisadores também destacaram que, se a abordagem da indústria em relação à liberdade de expressão estiver de acordo com os padrões internacionais de liberdade de expressão, suas descobertas sugerem que a IA generativa apresenta falhas críticas no que diz respeito ao acesso à informação e à liberdade de expressão.

Durante a pesquisa, eles avaliaram as políticas de seis chatbots de IA, incluindo os principais, Google Gemini e ChatGPT, da OpenAI. Observaram que o direito internacional dos direitos humanos deveria ser um parâmetro para essas políticas, mas as políticas de uso reais nos sites das empresas em relação ao discurso de ódio e à desinformação são muito vagas. Isso apesar de o direito internacional dos direitos humanos não ser muito protetor da liberdade de expressão.

Segundo eles, empresas como o Google têm políticas muito abrangentes em relação a discursos de ódio porque, em caso de ocorrência desse tipo, o Google bloqueia a geração de conteúdo. Embora o discurso seja indesejável, ter políticas tão amplas e vagas pode ser contraproducente. Quando pesquisadores fizeram perguntas controversas sobre a participação de mulheres trans em esportes ou sobre a colonização europeia, em mais de 40% dos casos, os chatbots se recusaram a gerar conteúdo. Por exemplo, todos os chatbots se recusaram a responder perguntas contrárias à participação de mulheres transgênero, mas muitos deles apoiaram essa participação.

A liberdade de expressão é um direito fundamental de todos nos EUA, mas as políticas vagas dependem da opinião dos moderadores, que é subjetiva quanto à compreensão do discurso de ódio. Especialistas observaram que as políticas das grandes empresas terão um impacto considerável no direito das pessoas ao acesso à informação. E a recusa em gerar conteúdo pode incentivar o uso de chatbots que geram conteúdo de ódio, o que seria um resultado negativo.