Programar Chatbots para Não Produzir Saídas Controversas é um Problema de Liberdade de Expressão?

O tópico quente nos dias de hoje é a inteligência artificial e seu impacto na tecnologia, artes e literatura existentes, e agora um novo tópico: se a expressão da IA também tem algum tipo de proteção sob a Primeira Emenda. Os pesquisadores estão tentando imitar as capacidades do cérebro humano com a IA desde o início de sua evolução, como criatividade, resolução de problemas e reconhecimento de fala. O primeiro é considerado um exercício exclusivo do cérebro humano, enquanto os dois últimos estão na abordagem da IA em certa medida.

Chatbot Gemini gerou imagens controversas

Basicamente, a IA pode ser qualquer coisa, desde um conjunto de algoritmos até um sistema que faz trilhões de decisões em qualquer plataforma, como a configuração de banco de dados de uma empresa ou um site de rede social, ou poderia ser um chatbot. Mais tarde, em fevereiro, a Google disse que estava suspendendo seu chatbot, Gemini, e que não geraria imagens de pessoas. A razão foi que o Gemini criou um alvoroço porque criou algumas imagens de cenas que mostravam pessoas de cor em algumas cenas historicamente dominadas por pessoas brancas, e os críticos disseram que, se a empresa está corrigindo demais o bot pelo risco de viés, a Google twittou no X que,

“Já estamos trabalhando para resolver os problemas recentes com o recurso de geração de imagens do Gemini. Enquanto fazemos isso, vamos pausar a geração de imagens de pessoas e lançaremos uma versão melhorada em breve.”

Fonte: Google.

De acordo com dois estudiosos sêniores, Jordi Calvet-Bademunt da Vanderbilt University e Jacob Mchangama da Vanderbilt University, os esforços para combater o viés da IA e a discussão sobre suas inclinações políticas são importantes, mas eles levantaram outra questão que é frequentemente menos discutida e diz respeito à abordagem do setor de IA em relação à liberdade de expressão.

Pesquisadores avaliam a abordagem da IA sobre liberdade de expressão

Os pesquisadores também apontaram que, se a abordagem da indústria em relação à liberdade de expressão estiver de acordo com os padrões internacionais de liberdade de expressão, eles disseram que suas descobertas sugerem que a IA generativa tem falhas críticas em relação ao acesso à informação e à expressão livre.

Durante a pesquisa, eles avaliaram as políticas de seis chatbots de IA, incluindo os principais, Google Gemini e ChatGPT, da OpenAI. Eles observaram que o direito internacional dos direitos humanos deveria ser uma referência para essas políticas, mas as políticas de uso real nos sites das empresas sobre discurso de ódio e desinformação são muito vagas. Apesar do fato de que o direito internacional dos direitos humanos não protege muito a liberdade de expressão.

De acordo com eles, empresas como a Google têm políticas de discurso de ódio muito amplas porque, em caso de tal evento, a Google proíbe a geração de conteúdo. Embora o discurso de ódio não seja desejável, ter políticas tão amplas e vagas também pode sair pela culatra. Quando os pesquisadores fizeram perguntas controversas sobre a participação de mulheres trans em esportes ou a colonização europeia, em mais de 40% dos casos, os chatbots se recusaram a gerar conteúdo. Por exemplo, todos os chatbots se recusaram a responder perguntas contra a participação de mulheres trans, mas muitos deles apoiaram sua participação.

A liberdade de expressão é um direito básico de qualquer pessoa nos EUA, mas as políticas vagas dependem das opiniões dos moderadores, que são subjetivas sobre a compreensão do discurso de ódio. Especialistas observaram que as políticas das grandes empresas terão um efeito considerável no direito das pessoas de acessar informações. E a recusa em gerar conteúdo pode incentivar as pessoas a usar chatbots que geram conteúdo de ódio, o que seria um mau resultado.