- A tecnologia de IA avança muito rapidamente atualmente, buscando alcançar habilidades humanas por meio da análise de dados e do aprendizado de máquina.
- O fracasso do chatbot da Microsoft Tay, ocorrido em 2016, é um dos exemplos mais trágicos de mau comportamento da IA.
- Para erradicar a discriminação racial na Inteligência Artificial, as indústrias precisam enfatizar a diversidade e a inclusão tanto no desenvolvimento da IA quanto no treinamento dos conjuntos de dados.
A IA é muito avançada hoje em dia, em que seu objetivo principal é imitar humanos através da análise de dados e aprendizado de máquina. Pior ainda, o desenvolvimento de tecnologias de IA revelou questões espinhosas, incluindo a perpetuação do viés racial em conteúdo produzido por IA. Business Insider forneceu alguns casos dos vieses raciais construídos por sistemas de IA com esses poucos profissionais que estão na indústria de tecnologia como exemplo. Muitos desses vieses representam um grande problema e merecem ação prioritária.
Há, no entanto, alguns casos em que a IA não está em seu melhor, e isso pode incluir algo trágico, como a queda de Tay, uma IA da Microsoft que aconteceu em 2016. Usando plataformas de redes sociais como o Twitter, o designer de Tay, um bot, foi capaz de aprender linguagem indesejada após incentivar os usuários a se envolverem em interações ofensivas, fazendo com que o bot fosse encerrado após apenas 1 dia. Mesmo com o desenvolvimento do campo da IA desde a década de 1970, as questões principais associadas a ele não foram totalmente erradicadas ainda. Este caso atesta a necessidade de combater o viés racial da IA durante o processo de design.
Preocupações atuais e resposta da indústria
Na atualização mais recente de um artigo da IEEE Spectrum, Jay Wolcott, fundador da Knowbl, uma empresa de IA generativa, levantou esta questão crucial de quais limites os sistemas de IA devem tentar controlar com o que decidem se envolver. Por outro lado, essa questão pode revelar um problema mais sério quando o futuro perfeitamente projetado pela IA e a história da vida real podem ser confrontados pelos efeitos colaterais da IA. Com o avanço da IA em muitos campos, em particular a questão de elaborar uma estratégia abrangente para lidar com os vieses raciais, merece mais atenção.
Para eliminar a discriminação racial no campo da Inteligência Artificial, as indústrias devem dar mais ênfase à diversidade e inclusão durante o design das soluções de IA e o treinamento dos conjuntos de dados. Vozes diversas podem levar à identificação de unilateralidade, ou viés inconsciente mesmo dentro do processo de construção de novos produtos. Como ponto adicional, padrões éticos rigorosos e sistemas de governança são os escudos que mantêm a IA segura uma vez que são implantados. Atividades colaborativas entre empresas de tecnologia, instituições governamentais e associações de defesa visam criar o futuro de um reino de IA digitalmente justo e equitativo.
Garantindo transparência e responsabilidade
A transparência nos algoritmos de IA é a chave para a implementação eficaz e bem comportada da IA, o que ajuda na remoção dos vieses dos algoritmos de IA. As organizações devem ser abertas sobre como os sistemas de IA chegam às suas decisões, o que também deve incluir maneiras de reclamações e responsabilidade. Através de auditorias sistemáticas e avaliações de injustiças, podemos detectar e desafiar os vieses que são readaptados de geração em geração. Esses principais jogadores contribuem para o estabelecimento da crença e confiança necessárias na tecnologia de IA, destacando a importância da transparência e responsabilidade.
Como o viés racial na IA abre muitas questões sobre o uso ético e justo dessa tecnologia, é a questão de maior prioridade para seu desenvolvimento futuro. Embora os benefícios da inteligência artificial para os seres humanos sejam enormes, combater o viés é a principal tarefa. Com a ideia de diversidade em mente, injetando ética no ambiente de IA e promovendo abertura e transparência, as partes interessadas podem ter um sistema inclusivo. A colaboração da indústria, acompanhada de quaisquer medidas corretivas necessárias para eliminar o viés racial, e a manutenção dos princípios de justiça e igualdade na IA são de extrema importância.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
