Senador do Colorado estabelecerá políticas de segurança para o uso de IA

Em um passo significativo rumo a um uso mais seguro da IA, o senador John Hickenlooper, do Colorado, iniciou um plano para criar políticas de auditoria de IA. Com foco na criação de padrões claros para verificações de sistemas de IA, Hickenlooper contatou especialistas do setor e figuras-chave em busca de informações. Esse esforço visa orientar a elaboração de legislação que garanta que as tecnologias de IA sejam eficazes e seguras.

Padrões de fabricação no Colorado

A estratégia de Hickenlooper envolve um esforço colaborativo liderado pelo Departamento de Comércio. O objetivo é desenvolver padrões voluntários que sirvam de guia para auditoriasdent de tecnologias de IA. Em um discurso proferido em fevereiro, Hickenlooper enfatizou a importância da supervisão externa para o setor de IA, citando a necessidade de evitar a autorregulamentação, dados os riscos potenciais envolvidos. 

“Se não tivermos cuidado e não direcionarmos a IA dessa forma, ela poderá acabar substituindo um grande número de trabalhadores sem levar em consideração o que eles farão depois. Esse é apenas um exemplo entre milhares de decisões tomadas hoje que terão consequências por gerações”, disse o senador Hickenlooper. 

Ao envolver terceiros qualificados na auditoria de sistemas de IA, a iniciativa busca garantir a conformidade com as leis federais e proteger contra danos imprevistos. 

Detalhes do questionário

O gabinete do senador divulgou um questionário que abrange aspectos-chave da auditoria de sistemas de IA, incluindo a frequência, o escopo das auditorias, os requisitos de transparência, a conformidade e o ecossistema geral de auditoria.

Este questionário, compilado a partir do Nextgov/FCW, foi elaborado para coletar informações detalhadas que ajudarão a defipadrões de auditoria eficazes e práticos. Um dos pontos principais é como esses padrões podem ser adaptados para diferentes etapas do desenvolvimento de software, abordando os desafios específicos apresentados pelos processos de desenvolvimento a montante e a jusante.

A prática de avaliar as entradas e saídas de um sistema de IA para garantir resultados seguros e de alta qualidade por uma terceira parte é conhecida como auditoria de IA. O gabinete de Hickenlooper confirmou a origem das perguntas e afirmou que elas serão usadas para orientar futuras iniciativas legislativas, bem como o quadro regulatório que ele apresentou no início de fevereiro.

Hickenlooper levanta uma questão bastante completa sobre o escopo da auditoria. O legislador aborda principalmente o desenvolvimento a montante versus o desenvolvimento a jusante ao questionar como os critérios de auditoria prospectivos devem ser modificados para desenvolvedores que atuam em toda a arquitetura de software.

Além disso, questiona-se também se requisitos adicionais, como acesso a dados de treinamento de modelos de IA, avaliações diretas das saídas do sistema, testes de verificação interna e avaliações qualitativas, podem ser incorporados aos padrões de auditoria de IA. 

Por meio dessa abordagem proativa, Hickenlooper está lançando as bases para um arcabouço regulatório que promete tornar as tecnologias de IA mais seguras e confiáveis. Ao priorizar a transparência, a conformidade e o bem-estar da sociedade, essa iniciativa representa um passo crucial para o desenvolvimento e a implementação responsáveis ​​da IA.