- As diretrizes da CISA concentram-se nos riscos e na governança da IA.
- A IA pode melhorar ou ameaçar a segurança das infraestruturas críticas.
- Os testes contínuos dos sistemas de IA são cruciais para a segurança.
A Agência de Segurança Cibernética e Infraestrutura (CISA) revelou novas recomendações em linha com a ênfase do Departamento de Segurança Interna (DHS) na segurança de IA, que foi destacada pelo estabelecimento de um conselho especial de segurança e segurança não muito tempo atrás.
Diretrizes da CISA para segurança de IA em setores críticos
As diretrizes recém-lançadas são destinadas aos proprietários e operadores dos seis setores designados como infraestruturas críticas, que são servidos por áreas como agricultura, saúde e tecnologia da informação. Esta Diretriz é um conjunto mínimo necessário que torna o sistema de IA seguro e resiliente usando tecnologias de IA responsáveis. Essas abordagens de aconselhamento oferecem orientação sobre governança, avaliação de riscos e gerenciamento contínuo de processos relacionados à IA.
Os operadores podem adotar o framework de gestão de riscos de IA do NIST para avaliar continuamente o impacto e os riscos associados às implementações de IA. Isso inclui identificar onde residem as dependências de IA e os efeitos ambientais que as tecnologias têm, além de tentar abordar qualquer vulnerabilidade levantada. As diretrizes recomendam regras que lembrem sobre a realização de inventários de usos de IA e a criação de procedimentos especiais para relatar riscos de segurança relacionados à IA.
A CISA reconhece que os CISOs precisam conhecer o caminho crítico da cadeia de suprimentos de IA e testar os sistemas de IA para identificar lacunas de segurança. Ao enfatizar áreas específicas, os proprietários de infraestrutura enfrentam riscos de IA de amplo espectro, incluindo falhas de design, ciberataques e violações de segurança física.
O papel duplo da IA na infraestrutura crítica
O documento demonstra que a IA tem a oportunidade de transformar a gestão da infraestrutura crítica, introduzindo uma ampla percepção do ambiente externo, automatizando o atendimento ao cliente, melhorando a segurança física e tornando as previsões mais precisas.
Embora essa inovação ajude a tornar os sistemas de infraestrutura robustos em geral, também é possível que os torne mais expostos a novas formas de ataques e falhas.
Essas diretrizes são apenas um elemento das iniciativas mais amplas do Departamento de Segurança Interna (DHS) destinadas a superar as complexidades de incluir a tecnologia de IA em seus frameworks de segurança nacional. A onipresença da IA é dupla: o lançamento desta tecnologia transformadora e a ameaça que ela representa para infraestruturas sensíveis de sistemas críticos, lembra o Secretário de Segurança Interna, Alejandro Mayorkas. O grupo de risco é muito reativo à situação e realiza iniciativas estratégicas para identificar e mitigar os perigos ocultos por meio de colaboração especializada.
Iniciativas de IA do DHS
O DHS apresentou sua estratégia de IA no início do ano, estabelecendo o roteiro do DBDS e anunciando o lançamento da AI Corps. Esta equipe, que deve contar com 50 especialistas em 2024, citados como qualificados, visa impulsionar as capacidades de IA da agência. O novo conselho envolverá pesos pesados da esfera tecnológica, como Sam Altman, da OpenAI, e Sundar Pichai, representando a Alphabet Company.
O mandato da CISA nas novas Diretrizes de IA não é apenas cumprir suas obrigações sob a recente ordem executiva associada à IA da administração Biden, mas também estabelecer o primeiro exemplo de análises de risco semelhantes que podem ser conduzidas em vários setores da sociedade. Dessa forma, o Governo dos EUA destaca sua liderança na “matriz de segurança de infraestrutura crítica”, que está altamente correlacionada com a inteligência artificial hoje.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Emman Omwanda
A especialidade de Emmanuel Omwanda reside nos mercados de criptomoedas, abrangendo tanto a análise fundamentalista quanto a técnica. Ele trabalhou anteriormente em diversos sites de mídia de criptomoedas antes de se juntar à Cryptopolitan, incluindo CoinEdition, The Crypto Basic, CryptoNews Flash e DroomDroom. Ele possui uma Licenciatura em Ciências (BSc.) em Matemática e Ciência da Computação pela Universidade Kenyatta, no Quênia, e está atualmente no último ano de graduação em Artes em Comunicação e Estudos de Mídia.
