Defensores da ética em IA propõem licenciamento e canais de denúncia para evitar escândalos semelhantes aos dos Correios

Em resposta ao notório escândalo dos Correios, a Sociedade Britânica de Computação (BCS) apresentou medidas proativas para evitar injustiças semelhantes. Com a crescente integração da inteligência artificial (IA) em diversos setores, as preocupações com padrões éticos e responsabilidade tornaram-se fundamentais. 

Reconhecendo o papel fundamental dos profissionais de IA na definição dos resultados sociais, a BCS defende o estabelecimento de um sistema de licenciamento e canais robustos de denúncia para proteger contra práticas antiéticas.

Licenciar profissionais de IA para garantir responsabilidade ética

A BCS propõe a implementação de um sistema de licenciamento semelhante ao dos profissionais da área médica para garantir transparência e adesão a princípios éticos entre os profissionais de IA. Rashik Parmar, MBE, CEO da BCS, destaca a importância de responsabilizar os profissionais de IA por suas ações, dado o profundo impacto da IA ​​na vida das pessoas. 

A iniciativa busca fomentar a confiança na implementação de IA , submetendo os profissionais da área a umadent estrutura ética

Canais de denúncia: Mantendo os padrões éticos na implementação da IA

Um aspecto central da estratégia da BCS é o estabelecimento de canais robustos de denúncia dentro das organizações para lidar com o uso antiético de IA. Reconhecendo que executivos não técnicos frequentemente tomam decisões importantes sobre o desenvolvimento de tecnologia, Parmar enfatiza a importância de capacitar os profissionais de tecnologia a expressarem suas preocupações sem medo de represálias. 

Essa abordagem proativa visa mitigar o risco de práticas discriminatórias, como decisões de contratação tendenciosas ou a implantação de tecnologias de vigilância com implicações sociais adversas.

Aprendendo com o escândalo dos Correios

O ímpeto para essas iniciativas decorre da grave injustiça exposta pelo escândalo dos Correios. A aquisição do sistema contábil Horizon, que apresentava falhas, em 1999, resultou na condenação injusta de centenas de gerentes de agências dos Correios, devastando vidas e comunidades. 

O uso indevido de evidências geradas por computador por pessoas sem formação em TI ressaltou a necessidade crucial de supervisão ética e responsabilização na implementação da IA. As trágicas consequências do escândalo dos Correios servem como um lembrete pungente das ramificações de longo alcance das intervenções tecnológicas descontroladas.