Por que o uso de viés de IA na tomada de decisões é formidável e fatal
- O viés da IA, frequentemente devido a dados de treinamento desequilibrados, é um grande desafio, mas não necessariamente uma falha fatal da IA.
- “Abordar o viés da IA requer dados de treinamento diversos, testes rigorosos e a participação de indivíduos diversos na tomada de decisões.”
- “Padrões, regulamentações e educação são fundamentais para reduzir o viés da IA e garantir tecnologias de IA mais equitativas.
A Inteligência Artificial (IA) tem causado grande impacto em vários setores, desde a saúde até as finanças. No entanto, a questão do viés da IA emergiu como um obstáculo significativo, levantando questionamentos sobre o futuro da tecnologia. Especialistas argumentam que o viés, frequentemente resultante de dados de treinamento distorcidos ou não representativos, é talvez o desafio mais formidável da IA.
O problema do viés na IA
Arthur Maccabe, diretor executivo do Instituto para Computação e Insights Habilitados por Dados da Universidade do Arizona, afirma que o viés não é inerentemente problemático. Torna-se uma questão quando um sistema enviesado influencia a tomada de decisões.
Michele Samorani, professor associado de sistemas de informação e análise na Escola de Negócios Leavey da Universidade de Santa Clara, alerta para o potencial da IA de perpetuar injustiças sociais. Ele ilustra isso com um exemplo de uma universidade usando IA para filtrar candidaturas. Se o sistema de IA for treinado com decisões de admissão passadas, quaisquer vieses humanos presentes nessas decisões serão refletidos nos resultados da IA.
O impacto do viés da IA
Alice Xiang, diretora global de ética em IA no Sony Group e pesquisadora principal de ética em IA na Sony AI, observa que o viés da IA pode ter efeitos de longo alcance. “Sistemas de IA enviesados podem reforçar estereótipos sociais, discriminar certos grupos ou perpetuar desigualdades existentes”, diz ela. Isso pode levar a práticas discriminatórias em vários setores, incluindo contratação, saúde e aplicação da lei. Além disso, o viés pode minar a confiança na tecnologia e impedir a adoção da IA.
Abordando o desafio do viés da IA
Xiang acredita que abordar o viés da IA requer uma abordagem abrangente, começando com dados de treinamento diversos e representativos. Ela enfatiza a importância de envolver indivíduos de origens diversas na tomada de decisões.
Maccabe sugere que os dados usados para treinar sistemas de IA devem representar com precisão toda a sociedade. Ele reconhece que isso pode ser inatingível, por isso é crucial documentar os vieses nos dados de treinamento e limitar o uso de sistemas de IA treinados com esses dados a contextos onde esses vieses não sejam críticos.
Beena Ammanath, diretora executiva do Instituto de IA da Deloitte, acredita que, embora eliminar o viés da IA seja desafiador, minimizar seu impacto é alcançável. Ela propõe processos rigorosos de teste, validação e avaliação de modelos de IA para identificar e prevenir vieses. O Caminho
Erradicar o viés da IA é uma tarefa árdua. Xiang observa que entender os sistemas de IA, suas possíveis consequências não intencionais e como eles podem prejudicar as pessoas é essencial. Ela destaca o recente aumento de equipes de ética em IA em empresas que incorporam IA em seus produtos e serviços. Essas equipes são dedicadas a desenvolver e implementar as melhores práticas de desenvolvimento e treinamento de modelos de IA.
Maccabe aponta o desafio de estabelecer conjuntos de dados grandes o suficiente para treinar a IA eficazmente e representar o contexto em que a IA será usada. Em alguns casos, os desenvolvedores podem se contentar com conjuntos de dados que são “suficientemente próximos”, como no Google Tradutor.
A necessidade de padrões e regulamentações
Samorani enfatiza a crescente necessidade de padrões e regulamentações para auditoria de sistemas de IA quanto ao viés. Ele está otimista de que, com as regulamentações e sistemas de auditoria adequados, o viés da IA pode ser reduzido a um ponto em que não seja mais uma preocupação.
Xiang observa que esforços estão em andamento para abordar o viés da IA, incluindo processos éticos de coleta de dados, desenvolvimento de conjuntos de dados de treinamento diversos, adoção de métricas de justiça e estruturas de avaliação, e promoção da transparência e responsabilidade no desenvolvimento e implantação de sistemas de IA.
Ammanath enfatiza a importância de educar as partes interessadas sobre o viés de risco da IA. Ela aconselha as organizações a priorizar a educação de seus funcionários sobre a ética da empresa e os princípios de ética em IA.
Embora o viés da IA seja um desafio significativo, não é necessariamente a falha fatal da IA. Com esforços concertados, avanços tecnológicos e as regulamentações certas, pode-se minimizar seu impacto e trabalhar em direção a um futuro em que as tecnologias de IA sejam mais equitativas e imparciais.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assumimos responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Editah Patrick
Editah é uma analista de fintech versátil com profundo conhecimento em domínios de blockchain. Assim como a tecnologia a fascina, ela considera o cruzamento entre tecnologia e finanças algo deslumbrante. Seu interesse particular em carteiras digitais e blockchain auxilia seu público.
