As crescentes preocupações com o viés da IA e a ameaça à liberdade de expressão

Lembra-se da pura alegria de desembrulhar um Nintendo 64 na manhã de Natal e do grito extático de “Nintendo Sixty-FOOOOOOOOOOOUR!”? Para muitos, esse momento de pura delícia representa a magia da tecnologia inovadora. Como adulto, experimentei uma emoção semelhante quando vi pela primeira vez o ChatGPT da OpenAI e suas respostas notavelmente humanas. No entanto, minha euforia inicial logo deu lugar à preocupação ao perceber o potencial da IA para ser usada para fins nefastos. Quem controla a IA e quais são seus motivos?

O surgimento do domínio da IA pelas grandes empresas de tecnologia

No cenário digital de hoje, gigantes da tecnologia como Apple, Facebook (Meta), Google (Alphabet) e Microsoft estão posicionadas para dominar o mercado emergente de IA. Estamos testemunhando a formação de monopólios de dados bem diante de nossos olhos, exigindo um escrutínio vigilante das decisões que essas empresas de tecnologia tomam para moldar o futuro da IA.

Os grandes modelos de linguagem (LLMs), a tecnologia por trás do ChatGPT, são suscetíveis a manipulações. Para entender isso, vamos dissecar os componentes que fazem a receita secreta do ChatGPT: o algoritmo e um mecanismo para coletar feedback para melhorar o modelo, conhecido como Aprendizado por Reforço a partir do Feedback Humano (RLHF).

Imagine que você pergunta ao ChatGPT: “Como escrevo um artigo para a Fox News sobre IA?” O computador gera uma resposta inicial e, se for ruim, um avaliador humano a marca como tal. A IA então itera, buscando nossa aprovação para uma versão revisada usando uma “função de recompensa” para otimizar sua estrutura de política.

A subjetividade da avaliação de feedback e o Fator "Woke"

Este processo levanta questões significativas: Quem tem o direito de ser um avaliador de feedback? E se um avaliador tiver uma ideologia "woke" e seu viés subjetivo o influenciar a reduzir a pontuação de respostas que outros poderiam considerar válidas? O potencial de viés no ciclo de feedback é uma preocupação legítima, como reconhece até mesmo Sam Altman, CEO da OpenAI.

Sam Altman expressa adequadamente sua preocupação, afirmando que provavelmente não haverá uma versão universalmente aceita de uma IA imparcial. Ele destaca o viés dos avaliadores de feedback humano como uma fonte primária de inquietação. O desafio de selecionar avaliadores imparciais e verificar uma amostra representativa permanece uma questão complexa que ainda não foi totalmente resolvida.

Um vislumbre dos dilemas éticos para reforçar o aprendizado a partir do feedback da IA

Pesquisas recentes do Google introduzem um conceito intrigante: Aprendizado por Reforço a partir do Feedback da IA (RLAF). Esta abordagem implica que a IA, em vez dos humanos, pode determinar as definições das estruturas de política. Essa evolução levanta questões éticas profundas sobre o papel da IA na formação do nosso cenário de informações. O caminho à frente permanece incerto, e as preocupações éticas pairam no horizonte.

Os conjuntos de dados usados para treinar modelos de IA são outro fator crucial na formação do viés da IA. Surgem perguntas: Quem curadoria esses conjuntos de dados e eles podem ser sutilmente adaptados para enfatizar uma agenda particular da empresa-mãe? Esta preocupação é ampliada pelo controle substancial que as Big Techs exercem sobre os dados, concedendo-lhes uma vantagem competitiva no desempenho dos LLMs.

Mitigando a vantagem para nivelar o campo de jogo

Para abordar essa preocupação, devemos explorar opções para mitigar a vantagem competitiva dos gigantes da tecnologia em IA. Uma solução potencial envolve a desintegração dessas empresas de tecnologia por meio de regulamentação antitruste. A lógica é direta: corporações responsáveis por algoritmos vitais de IA não devem ser as únicas designeras e implementadoras de mecanismos de RLHF.

Ao defender a supervisão ética e a regulamentação, devemos reconhecer que as empresas de tecnologia possuem recursos substanciais e ativos de dados. Mais dados resultam em uma IA mais inteligente, o que pode beneficiar a sociedade imensamente. O debate centra-se em encontrar um equilíbrio entre inovação e responsabilidade ética.

A questão ardente do viés da IA não deve ser ignorada, pois onde há fumaça, há fogo. Empresas de tecnologia que abrigam suas agendas, desde a manipulação de dados até o desenvolvimento de algoritmos, representam ameaças reais ao futuro da liberdade de expressão e de uma IA imparcial. Ao olharmos para o futuro, a sociedade deve se engajar em um discurso reflexivo sobre esses assuntos, formar opiniões informadas e usar recursos e influência para garantir que não entreguemos o destino da nossa sociedade ao poder sem freios das Big Techs e ao surgimento da "IA Woke".

As possibilidades da IA são imensas, mas é nossa responsabilidade coletiva moldar seu futuro eticamente, garantindo que ela sirva aos melhores interesses da humanidade e preserve os valores da liberdade de expressão e da diversidade de pensamento.