Quem responderá pela Ética da IA e pelo Compromisso com as Responsabilidades Sociais do Mundo Real?
- A responsabilidade pela IA ética se estende às empresas de tecnologia, formuladores de políticas e muitos outros, mas as vozes marginalizadas não devem ser excluídas.
- O desenvolvimento ético da IA requer foco em contextos sociais, e mudanças de paradigma são necessárias para uma inovação responsável.
- O uso de mão de obra global barata no desenvolvimento de IA levanta preocupações sobre exploração e responsabilidades éticas na indústria de tecnologia.
As recentes controvérsias em torno da inteligência artificial (IA) reacenderam o debate sobre quem deve ser responsabilizado por garantir o desenvolvimento e a implementação éticos da IA. À medida que a IA generativa, como o ChatGPT, se torna cada vez mais mainstream, questões sobre o compromisso da indústria de tecnologia com a Ética da IA ou a inovação responsável continuam a pairar no ar.
O custo oculto da IA
Investigações revelaram que a OpenAI, uma empresa líder de IA apoiada pela Microsoft, tem dependido de contratados estrangeiros mal pagos para lidar com a tarefa sensível de moderação de conteúdo, um componente crucial no desenvolvimento de sistemas “seguros” como o ChatGPT. Esses contratados, baseados no Quênia, recebiam apenas US$ 2 por hora para rotular textos e imagens perturbadores, uma tarefa que, segundo relatos, causou trauma psicológico significativo. Após a revelação do impacto desse trabalho, o parceiro de terceirização da OpenAI rompeu os laços com a empresa.
Esta denúncia trouxe à luz a dependência da indústria de tecnologia em relação à mão de obra barata de todo o mundo para realizar as tarefas mais exaustivas que sustentam os avanços na IA. Isso ocorre em um momento em que equipes de segurança de IA de alto perfil estão sendo desmanteladas, apesar da retórica elevada da indústria sobre ética.
A realidade por trás do discurso de relações públicas
Várias figuras de destaque na indústria de tecnologia pediram uma pausa no desenvolvimento da IA até que regulamentações adequadas possam ser estabelecidas. No entanto, alguns especialistas argumentam que depender exclusivamente de legisladores e corporações para moldar o futuro da IA é um erro, pois exclui perspectivas-chave. A Dra. Alison Powell, do Ada Lovelace Institute, apontou que o discurso atual foca demais no potencial da inteligência artificial geral de superar a cognição humana, em vez de abordar as realidades do presente.
“Isso é prejudicial porque foca em um mundo imaginado em vez do mundo real em que vivemos”, disse Powell. Ela argumenta que as capacidades de tomada de decisão frequentemente atribuídas à IA ignoram as responsabilidades sociais do mundo real que vêm com tal poder.
A pesquisadora de Oxford, Abid Adonis, também notou que as vozes de grupos marginalizados, que são diretamente afetados pela IA, estão conspicuamente ausentes do debate. “É importante ouvir o que os grupos marginalizados dizem, porque isso está faltando na discussão”, disse Adonis.
As deficiências da “IA ética”
Já há evidências de viés algorítmico e discriminação nos sistemas de IA atualmente em uso, desde tecnologia de reconhecimento facial até algoritmos usados em avaliações de habitação e empréstimos. Apesar das afirmações elevadas das empresas de tecnologia sobre princípios éticos, suas ações muitas vezes contam uma história diferente.
Modelos generativos como o ChatGPT, treinados em um conjunto limitado de dados da internet, inevitavelmente herdam os vieses presentes nesses dados. As habilidades de raciocínio muito elogiadas desses modelos frequentemente não resistem ao escrutínio. Por exemplo, descobriu-se que o ChatGPT gera afirmações claramente falsas sobre pessoas reais. A falta de transparência na origem dos dados comerciais para o treinamento de IA apenas aumenta essas preocupações.
Uma perspectiva mais ampla sobre a ética da IA
A Dra. Powell sugere que, em vez de ver a ética como um problema técnico a ser resolvido, devemos examinar os contextos sociais nos quais o dano ocorre. “As IAs são máquinas institucionais, máquinas sociais e máquinas culturais”, disse ela. Focar apenas no ajuste de algoritmos ignora o fato de que a exclusão muitas vezes decorre das instituições e da cultura que cercam a tecnologia.
De acordo com a pesquisadora Abid Adonis, um forte discurso público e normas desempenharão um papel crucial na moldagem do futuro da inovação. Garantir a responsabilidade significa aplicar as leis existentes de forma justa, em vez de simplesmente regular a tecnologia em si.
O paradigma moldará os corredores da inovação
Abid Adonis, Pesquisador
À medida que a IA continua a ganhar proeminência, garantir que ela produza resultados justos é uma responsabilidade que deve ser compartilhada entre empresas de tecnologia, legisladores, pesquisadores, a mídia e o público. No entanto, o discurso atual está fortemente inclinado para aqueles com mais poder. Para avançar, precisamos incluir uma gama mais ampla de perspectivas sobre as possíveis armadilhas da IA, para que possamos desenvolver tecnologia ética que realmente atenda às necessidades humanas. Isso exigirá que olhemos além do discurso de relações públicas das grandes empresas de tecnologia e confrontemos os danos reais que estão sendo causados atualmente.
A imagem em destaque transmite as condições de trabalho de alta pressão e orientadas por prazos que caracterizam a dependência da indústria de tecnologia em relação à mão de obra barata.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assumimos responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Editah Patrick
Editah é uma analista de fintech versátil com profundo conhecimento em domínios de blockchain. Assim como a tecnologia a fascina, ela considera o cruzamento entre tecnologia e finanças algo deslumbrante. Seu interesse particular em carteiras digitais e blockchain auxilia seu público.
