Por Que a CISA Exige um Design Seguro de IA Vinculado à Segurança Central?

A Agência de Segurança Cibernética e Infraestrutura dos EUA (CISA) destacou a imperatividade de incorporar a segurança na própria estrutura dos sistemas de inteligência artificial (IA) durante suas etapas de desenvolvimento. Essa abordagem proativa, conforme defendida pela CISA, visa prevenir o surgimento de vulnerabilidades após a implantação, um cenário que pode ser não apenas intricado, mas também exorbitante de corrigir. O chamado da agência por um design de IA seguro está alinhado com sua campanha mais ampla de integrar a segurança perfeitamente nas fases de design e desenvolvimento, em vez de considerá-la como um pensamento tardio.

Segurança no núcleo: a missão contínua da CISA

Em seu recente post, a CISA instou fortemente os desenvolvedores de IA a adotar um paradigma de “segurança por design”, reforçando o princípio de que a IA, em sua essência, é uma forma de software. A agência buscou desmistificar noções sobre a IA, enfatizando sua natureza fundamentalmente baseada em software, tornando-a sujeita aos mesmos requisitos de segurança que qualquer software exige. Isso ecoa um esforço global de longa data por especialistas em segurança cibernética para tratar a segurança como um componente inerente, em vez de uma adição periférica.

Mudança de perspectiva: de externalidade para compromisso

A diretora da CISA, Jen Easterly, em um discurso no início deste ano, destacou a necessidade de uma mudança transformadora na percepção da segurança dentro da indústria de tecnologia. Historicamente, a segurança muitas vezes foi relegada a um status secundário, com seus custos externalizados para os usuários finais. Easterly pediu uma revisão completa dessa abordagem, defendendo um compromisso renovado com a segurança que envolva incorporá-la ao ciclo de vida do desenvolvimento de software. Além disso, Easterly sugeriu uma mudança na distribuição de responsabilidade, propondo que os desenvolvedores de software assumissem uma parte maior da responsabilidade.

Desafios interconectados do aprendizado de máquina

O post do blog da CISA chama a atenção para as intricacidades do aprendizado de máquina, enfatizando a natureza estreitamente entrelaçada de seu código. Notavelmente, qualquer modificação em uma única entrada dentro de um sistema de IA pode ter consequências de longo alcance. Essa interdependência intricada foi destacada em um artigo seminal de 2014 por pesquisadores do Google, que compararam adequadamente os desafios técnicos não resolvidos no desenvolvimento de IA a “o cartão de crédito de alta juros da dívida técnica.”

Práticas de segurança personalizadas para IA

Embora o post do blog reconheça a necessidade de segurança por design para sistemas de IA, ele também reconhece os desafios únicos que a IA apresenta. A CISA compilou uma lista de práticas de segurança essenciais, independentes do setor, que são igualmente aplicáveis ao software de IA. A agência enfatiza a importância de aderir a essas diretrizes, especialmente dada a ocorrência de casos em que atores maliciosos exploram vulnerabilidades conhecidas em componentes de software não relacionados à IA.

Abordagem holística para a segurança da IA

A CISA destaca que as práticas e políticas de segurança esperadas pela comunidade estabelecida devem governar vários aspectos do desenvolvimento de IA, incluindo design, desenvolvimento, implantação, teste, gerenciamento de dados, integração de sistemas e gerenciamento de vulnerabilidades e incidentes. Em casos em que formatos de arquivo de modelos de IA são processados, medidas robustas devem estar em vigor para frustrar tentativas de execução de código não confiável. Além disso, o uso de linguagens seguras para memória é recomendado como uma proteção adicional contra ameaças potenciais.

Prestação de contas e transparência na engenharia de IA

Além das salvaguardas técnicas, a CISA insta a comunidade de engenharia de IA a adotar práticas que melhorem a prestação de contas e a transparência. Isso implica implementar identificadores de vulnerabilidade, como CVEs (Vulnerabilidades e Exposições Comuns) e manter uma lista abrangente de materiais de software (BOM) tanto para modelos de IA quanto para suas dependências. As preocupações com a privacidade também não são negligenciadas, já que a agência pede a adesão aos princípios fundamentais de privacidade por padrão.

Um momento crucial para a segurança da IA

O chamado impassível da CISA pela segurança da IA por design significa uma encruzilhada crucial no reino do desenvolvimento de IA. Ao colocar a segurança em primeiro plano no design e no desenvolvimento, a agência defende uma mudança de paradigma que poderia potencialmente evitar violações de segurança significativas no futuro. Em um mundo onde os sistemas de IA estão se tornando cada vez mais onipresentes, essa postura proativa pode pavimentar o caminho para uma paisagem digital mais segura e resiliente.