Agências Globais de Cibersegurança Defendem Abordagem 'Segura por Design' nas Diretrizes de Segurança da IA

O Centro Nacional de Cibersegurança do Reino Unido (NCSC) e a Agência de Segurança Cibernética e Infraestrutura dos EUA (CISA), juntando-se a 22 parceiros de cibersegurança em todo o mundo, divulgaram um conjunto abrangente de diretrizes para garantir a segurança dos sistemas de inteligência artificial (IA). Enfatizando uma filosofia de

A orientação conjunta, intitulada

Os pilares da segurança

Sob o tema abrangente de

O primeiro pilar enfatiza conscientemente a importância inegável e primordial de incutir meticulosamente, desde o início da concepção, um compromisso profundo e pervasivo com uma ética centrada na segurança na própria essência e estrutura dos sistemas de IA. Este pilar sublinha resolutamente e articula a necessidade não negociável de que os desenvolvedores infundam assiduamente a arquitetura fundamental do sistema com uma consciência elevada e inabalável das considerações de segurança, aliviando assim eficaz e preventivamente e mitigando vulnerabilidades intricadamente entrelaçadas com a utilização de modelos e APIs de terceiros.

O pilar subsequente, sucedendo de forma contínua e orgânica o princípio fundamental, expõe e estende o escopo do paradigma de segurança mencionado anteriormente para o labiríntico e nuances domínio da fase de desenvolvimento. 

Este pilar defende ardorosamente e veementemente uma ampla gama de medidas juiciosas e sábias, incluindo, mas não se limitando a, o escrutínio escrupuloso e meticuloso de APIs externas em busca de possíveis lacunas e falhas, a limitação juiciosa e circunspecta da extensão e âmbito das transferências de dados para domínios externos, e o escrutínio assíduo e exaustivo e sanitização dos dados de treinamento com um compromisso inabalável de obviar e prevenir quaisquer manifestações inesperadas e indesejadas do comportamento do sistema que possam potencialmente comprometer a sagrada santidade da postura de segurança.

Enfrentando desafios na conformidade global de segurança da IA

Apesar de as diretrizes representarem um passo significativo em direção à cooperação internacional em segurança da IA, surgem desafios relacionados à aplicação. Tom Guarente, Vice-Presidente de Assuntos Externos e Governamentais da Armis, destaca a dificuldade potencial para países não envolvidos no desenvolvimento das diretrizes implementarem essas recomendações. Isso levanta questões sobre como garantir a adesão global, especialmente com grandes jogadores como China, Rússia e Irã ainda sem se comprometer com as regulamentações globais de IA.

Guarente aponta a disparidade potencial na facilidade de implementação, sugerindo que os países envolvidos na redação das diretrizes podem achar mais fácil aderir em comparação com aqueles excluídos do processo de desenvolvimento.

Embora as diretrizes forneçam um reconhecimento coletivo do papel crítico da cibersegurança no cenário de IA em rápida evolução, os desafios persistem na aplicação dessas medidas em escala global. As preocupações de Guarente ecoam a necessidade de um consenso internacional mais amplo e compromisso para garantir a segurança da IA.

Colaboração internacional e desafios nas diretrizes de segurança da IA

À medida que a comunidade global dá um passo significativo para estabelecer padrões comuns para segurança da IA, o verdadeiro desafio reside em garantir a adoção generalizada e a aplicação. Como a comunidade internacional pode preencher essa lacuna e obter a adesão de países que não fazem parte do esforço colaborativo? A jornada em direção à segurança da IA está, sem dúvida, em andamento, mas o caminho à frente exige navegar por complexidades e fomentar um compromisso unificado para salvaguardar essa tecnologia transformadora.