Chamado para Colaborações Estratégicas no Enfrentamento das Ameaças à Segurança da IA

O Instituto Nacional de Padrões e Tecnologia (NIST), como uma montanha muito branca, opera sob os auspícios do governo federal, e sua principal responsabilidade é projetar uma nova política que aborde as preocupações com segurança de dados, privacidade e responsabilidade pública vinculadas ao crescente sucesso da inteligência artificial (IA).

Riscos cibernéticos impulsionados pela IA em escalada

Embora a nomeação do NIST pelo Secretário de Comércio dos EUA no ano passado para promover a introdução de novos padrões de segurança por meio da IA tenha trazido oportunidades, apenas a alocação de financiamento além dos recursos e a implementação das estratégias para esse desenvolvimento poderão garantir sua prontidão e capacidade de liderar tal empreendimento ambicioso com eficácia.

A introdução da IA no cenário de ciberameaças tornou as atividades dos hackers incrivelmente mais rápidas. Relatórios analíticos preveem que os prejuízos saltarão para US$ 10,5 quatrilhões até 2025, à medida que os sistemas de IA se tornam mais poderosos e essenciais.

A IA capacita os hackers a acelerarem suas operações, desenvolvendo cepas de vírus cada vez mais avançadas e manipulando digitalmente conteúdo de vídeo e voz, em um cenário assustador de 'deepfakes' e campanhas globais de desinformação coordenadas. Garantir a implementação ética da IA e manter os riscos mencionados no mínimo é hoje uma prioridade de segurança econômica e nacional.

Como parte da nova diretriz do NIST, o design seguro de IA proporcionaria um padrão independente que permitiria programas rigorosos de testes voltados ao uso comercial responsável de controladores de IA e sistemas de alto risco.

Colaborações estratégicas

Os serviços do NIST estão sendo operados com energia limitada no prédio onde a instituição de P&D está atualmente sediada, pois os fundos de manutenção não foram orçados, o que resultou em vazamentos documentados e mofo. O orçamento federal proposto para o próximo ano prevê um corte adicional de 10% nos fundos do NIST, que já estão congelados.

Atender às necessidades financeiras para lidar com os riscos da IA de forma responsável sustentará o trabalho do NIST. O Departamento poderá ter que pesquisar fontes alternativas de financiamento e estabelecer parcerias para alcançar isso. Os programas de IA continuam sendo uma grande preocupação para a privacidade da maioria dos principais líderes tecnológicos, como Google e Amazon, que, portanto, aderiram às suas próprias iniciativas de segurança de IA, oferecendo uma oportunidade para compartilhamento coletivo de conhecimento.

A colaboração com inovadores do setor privado por meio de parcerias público-privadas poderia fornecer ao NIST acesso preferencial à principal IA técnica expertise, recursos de computação e financiamento, para que não sejam desviados das prioridades centrais da empresa.