Governo Federal aborda preocupações com contratação por IA e promove igualdade

Em uma recente entrevista de fim de ano à CBC News, a presidente do Conselho do Tesouro, Anita Anand, delineou o compromisso do governo federal em prevenir a discriminação em processos de contratação impulsionados por inteligência artificial (IA). Anand reconheceu as crescentes preocupações quanto ao viés potencial introduzido pelas ferramentas de IA e enfatizou a necessidade de conformidade com as leis de privacidade e práticas de contratação não discriminatórias.

Abordagem de ferramentas de IA na contratação federal

Anand abordou a incorporação de ferramentas de IA nos processos de contratação de alguns departamentos governamentais, citando o uso pelo Departamento de Defesa Nacional do Knockri, uma ferramenta de avaliação de habilidades impulsionada por IA, em entrevistas de emprego gravadas. A ferramenta utiliza aprendizado de máquina para analisar as respostas dos candidatos, visando reduzir o viés e promover a equidade na recrutamento. Anand ressaltou a importância de garantir que as aplicações de IA estejam em conformidade com as leis existentes e mantenham princípios não discriminatórios.

Diretrizes e supervisão governamentais

Em setembro, Anand apresentou diretrizes para servidores públicos que usam ferramentas de IA generativa no trabalho, enfatizando o compromisso do governo em monitorar as aplicações de IA para prevenir viés ou discriminação. Apesar desses esforços, um incidente recente envolvendo uma imagem gerada por IA representando uma mulher inuíte levou a um pedido de desculpas do Global Affairs. Anand destacou a disponibilidade de ferramentas como o processo de Avaliação de Impacto Algorítmico (AIA) para orientar os departamentos, enfatizando a importância de considerações legais, políticas e éticas ao implementar a IA.

Regulamentações e estrutura de longo prazo

Anand reconheceu a natureza transformadora da IA e expressou o desejo de abordar lacunas nas regulamentações do Canadá concernentes ao uso de longo prazo da IA. Ao explorar o uso de ferramentas impulsionadas por IA, ela enfatizou a importância de manter a opção para os canadenses interagirem com servidores públicos reais, garantindo um equilíbrio entre avanços tecnológicos e contato humano. Anand também mencionou o Projeto de Lei C-27, uma estrutura para o uso de IA em empresas regulamentadas federalmente, indicando o compromisso do governo em adotar diretrizes aplicáveis à economia em geral.

Reforma da tecnologia envelhecida para a entrega de benefícios governamentais

Um dos projetos significativos na agenda de Anand é a reforma da tecnologia envelhecida do governo usada para entregar benefícios como a Segurança da Velhice (OAS), o Plano de Pensão do Canadá (CPP) e o seguro-desemprego (EI). A iniciativa visa substituir sistemas desatualizados, com a primeira transferência de 600.000 beneficiários estrangeiros do OAS concluída em junho. Anand delineou planos para a segunda fase, focando na melhoria da entrega dos pagamentos do OAS e EI no próximo ano.

Anand enfatizou o compromisso do governo em fazer progresso tangível na substituição de sistemas com mais de 45 anos que entregam benefícios essenciais. Pesquisas sugerem uma correlação direta entre a confiança dos cidadãos no governo e a qualidade dos serviços recebidos. À medida que o governo planeja modernizar sua tecnologia, Anand destacou a importância de instilar confiança nos cidadãos por meio da entrega de serviços eficiente e atualizada.

Uma abordagem voltada para o futuro em IA e tecnologia

As declarações da presidente do Conselho do Tesouro, Anita Anand, refletem a abordagem proativa do governo federal para abordar preocupações relacionadas às aplicações de IA, particularmente no processo de contratação. O compromisso com diretrizes, supervisão e regulamentações de longo prazo demonstra uma dedicação a garantir justiça e não discriminação no cenário em evolução da IA. À medida que o governo empreende a modernização da tecnologia para a entrega de benefícios, a ênfase de Anand na confiança dos cidadãos reforça a importância de encontrar um equilíbrio entre avanços tecnológicos e o toque humano nos serviços públicos.