Testes de Viés de IA Mandatórios para Agências Federais pela Casa Branca
- O governo exige testes de viés para a prestação de contas da IA.
- Diretores de IA são nomeados para supervisionar o uso responsável.
- A supervisão pública garante transparência na implantação da IA.
Em uma de suas principais iniciativas para impulsionar a adoção de tecnologias de IA pelo governo dos Estados Unidos com uma abordagem responsável, a Casa Branca determinou a necessidade de realizar testes de viés nas ferramentas de IA usadas em todas as agências governamentais.
A Ordem Executiva, emitida através da OMB, apresenta uma das principais agendas de políticas da administração Biden, projetada para conter o mínimo possível de riscos que possam surgir, incluindo discriminação, juntamente com violações de privacidade.
Agências federais se preparam para supervisão e responsabilidade de IA
Conforme anunciado na política em todo o governo, as agências federais compilarão sistemas operacionais robustos para se conformarem com os direitos e a segurança das pessoas. Eles devem ser implementados até 1º de dezembro, quando a inteligência artificial for aplicada de maneira que possa influenciar a vida das pessoas.
Em particular, essas medidas são projetadas para eliminar distinções, violação da esfera privada e divergências entre diferentes setores, incluindo segurança no transporte, saúde e prestação de serviços. Chefes de inteligência artificial ou Crime e Aplicação da Lei devem ser nomeados, além de outras medidas, para garantir a supervisão
Para supervisionar a execução das diretrizes de IA da OMB e coordenar seu uso entre os diferentes escritórios, os Chefes de Inteligência Artificial serão nomeados. Esses funcionários se envolverão na criação e garantia de que as implantações de inteligência artificial dentro do governo federal sejam transparentes e responsáveis.
A Vice-Presidente Kamala Harris enfatizou a intenção de que essas políticas domésticas sirvam como modelo para ação global, destacando a importância de priorizar o interesse público na utilização da inteligência artificial. A administração planeja contratar pelo menos 100 funcionários focados em inteligência artificial até o verão, destacando ainda mais seu compromisso com essa iniciativa.
Testes rigorosos para sistemas de alto risco
Altos funcionários da administração delinearam que sistemas de alto risco passarão por testes rigorosos para identificar e mitigar possíveis vieses e riscos. Essa abordagem proativa sublinha o compromisso da administração em garantir o uso responsável da tecnologia de inteligência artificial nas operações governamentais.
De acordo com as novas diretrizes, os americanos podem buscar remédios se acreditarem que os sistemas levaram a informações falsas ou decisões que os afetaram.
As agências federais devem publicar uma lista de sistemas, avaliações de risco e estratégias de gestão. Isenções podem ser concedidas para software que não esteja em conformidade com as regras da administração, mas uma justificativa deve ser fornecida, promovendo transparência e responsabilidade na implantação de inteligência artificial.
Desafios e direções futuras
Alexandra Reeve Givens, Presidente e CEO do Centro para Democracia e Tecnologia, elogiou as diretrizes como um passo significativo para garantir o uso responsável de IA dentro das agências federais.
Givens enfatizou a importância de processos rigorosos em vigor para avaliar o impacto potencial de novas tecnologias em indivíduos e comunidades.
Embora as agências federais estejam utilizando tecnologia de IA há anos, a regulamentação mais ampla da IA estagnou no Congresso. Como resultado, a administração Biden está aproveitando a posição do governo como um grande cliente de tecnologia para estabelecer salvaguardas e promover a adoção responsável de IA.
Apesar das medidas proativas tomadas pela administração, os desafios permanecem, particularmente concernentes à perpetuação de vieses em sistemas de IA. Instâncias de viés racial e imprecisões na tomada de decisões impulsionadas por IA destacam a necessidade de vigilância e supervisão contínuas na implantação de IA.
A exigência da Casa Branca para testes de viés e supervisão do uso de IA nas agências federais representa um passo significativo para garantir a adoção responsável e ética da tecnologia de IA. Ao implementar salvaguardas concretas, promover a transparência e fomentar a responsabilidade pública, a administração visa abordar riscos potenciais enquanto aproveita o potencial transformador da IA para o benefício da sociedade.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Emman Omwanda
A especialidade de Emmanuel Omwanda reside nos mercados de criptomoedas, abrangendo tanto a análise fundamentalista quanto a técnica. Ele trabalhou anteriormente em diversos sites de mídia de criptomoedas antes de se juntar à Cryptopolitan, incluindo CoinEdition, The Crypto Basic, CryptoNews Flash e DroomDroom. Ele possui uma Licenciatura em Ciências (BSc.) em Matemática e Ciência da Computação pela Universidade Kenyatta, no Quênia, e está atualmente no último ano de graduação em Artes em Comunicação e Estudos de Mídia.
