Apelos por colaborações estratégicas para combater as ameaças à segurança da IA

O Instituto Nacional de Padrões e Tecnologia (NIST), como uma montanha muito branca, opera sob os auspícios do governo federal, e sua principal responsabilidade é elaborar uma nova política que aborde as preocupações com a segurança de dados, a privacidade e a responsabilidade pública relacionadas ao crescente sucesso da inteligência artificial (IA).

Riscos cibernéticos crescentes impulsionados por IA

Embora a nomeação do NIST pelo Secretário de Comércio dos EUA no ano passado para buscar a introdução de um novo padrão de segurança por IA tenha trazido essa oportunidade, somente a alocação de financiamento em um nível que ultrapasse os recursos disponíveis e a implementação das estratégias para esse desenvolvimento poderão garantir sua prontidão e capacidade de liderar com eficácia um empreendimento tão ambicioso.

A introdução da IA ​​no cenário das ameaças cibernéticas tornou tudo incrivelmente mais rápido para os hackers. Relatórios analíticos preveem que o volume de negócios atingirá US$ 10,5 quatrilhões até 2025, à medida que os sistemas de IA se tornarem mais poderosos e essenciais.

A IA permite que os hackerstracseus trabalhos, criando variantes de vírus cada vez mais avançadas e manipulando digitalmente conteúdo de vídeo e voz, numa perspectiva assustadora das chamadas campanhas de desinformação "deepfake" orquestradas globalmente. Alcançar a implementação ética da IA ​​e minimizar os riscos mencionados é a prioridade atual em termos de segurança nacional e econômica.

Como parte da nova diretiva do NIST, o design seguro de IA fornecerá um padrão independente que permitirá programas de testes rigorosos voltados para o uso comercial responsável de controladores de IA e sistemas de alto risco.

Colaborações estratégicas

Os serviços do NIST estão sendo operados com energia elétrica precária no prédio que abriga atualmente o instituto de P&D, devido à falta de verbas para manutenção, o que resultou em vazamentos e mofo comprovados. A proposta orçamentária federal para o próximo ano prevê um corte adicional de 10% nos fundos do NIST, que já estão congelados.

Atender às necessidades financeiras para lidar com os riscos da IA ​​de forma responsável sustentará o trabalho do NIST. O Departamento pode ter que pesquisar fontes alternativas de financiamento e formar parcerias para atingir esse objetivo. Os programas de IA continuam sendo uma grande preocupação para a privacidade da maioria das grandes empresas de tecnologia, como Google e Amazon, que, portanto, aderiram às suas próprias iniciativas de segurança de IA, as quais proporcionam uma oportunidade para o compartilhamento coletivo de conhecimento.

A colaboração com inovadores do setor privado por meio de parcerias público-privadas poderia proporcionar ao NIST acesso privilegiado a técnicos , recursos computacionais e financiamento, para que não se desviemtracprincipais prioridades da empresa.