Perché la CISA esorta un design sicuro dell'AI legato alla sicurezza di base?
lo sviluppo
- La CISA degli Stati Uniti esorta i produttori di IA a integrare la sicurezza fin dall'inizio per evitare costose correzioni successive.
- La CISA richiede un cambio di approccio alla sicurezza per rendere i sistemi di IA sicuri by design, non come ripensamento.
- Le connessioni strette nell'IA sono importanti e piccole modifiche possono avere grandi impatti, afferma il consiglio della CISA.
L'Agenzia per la sicurezza cibernetica e delle infrastrutture degli Stati Uniti (CISA) ha sottolineato l'importanza di integrare la sicurezza nel tessuto stesso dei sistemi di intelligenza artificiale (AI) durante le loro fasi di sviluppo. Questo approccio proattivo, come sostenuto dalla CISA, mira a prevenire la comparsa di vulnerabilità dopo il dispiegamento, uno scenario che può essere non solo intricato ma anche esorbitante da rettificare. La chiamata della CISA per un design sicuro dell'AI è allineata con la sua campagna più ampia per integrare la sicurezza in modo fluido nelle fasi di design e sviluppo, piuttosto che considerarla un ripensamento.
Sicurezza al centro: la missione in corso della CISA
Nel suo recente post, la CISA ha fortemente esortato gli sviluppatori di AI ad adottare un paradigma di
Cambiamento di prospettiva: dall'esternalità all'impegno
La direttrice della CISA, Jen Easterly, in un discorso all'inizio di quest'anno, ha sottolineato la necessità di un cambiamento trasformativo nella percezione della sicurezza all'interno dell'industria tecnologica. Storicamente, la sicurezza è stata spesso relegata a uno status secondario, con i suoi costi esternalizzati agli utenti finali. Easterly ha chiesto una revisione completa di questo approccio, sostenendo un rinnovato impegno per la sicurezza che implichi l'integrazione nel ciclo di vita dello sviluppo del software. Inoltre, Easterly ha suggerito un cambiamento nella distribuzione della responsabilità, proponendo che gli sviluppatori di software si assumano una quota maggiore di responsabilità.
Le sfide interconnesse del machine learning
Il post sul blog della CISA richiama l'attenzione sulle complessità del machine learning, sottolineando la natura strettamente intrecciata del suo codice. In particolare, qualsiasi modifica a un singolo input all'interno di un sistema AI può avere conseguenze di vasta portata. Questa intricata interdipendenza è stata sottolineata in un articolo seminale del 2014 di ricercatori di Google, che hanno paragonato in modo appropriato le sfide tecniche irrisolte nello sviluppo dell'AI a
Pratiche di sicurezza su misura per l'AI
Sebbene il post sul blog riconosca la necessità di un design sicuro per i sistemi AI, riconosce anche le sfide uniche che l'AI presenta. La CISA ha compilato un elenco di pratiche di sicurezza essenziali, indipendenti dal settore, che sono ugualmente applicabili al software AI. L'agenzia sottolinea l'importanza di aderire a queste linee guida, specialmente dato che gli attori delle minacce sfruttano le vulnerabilità note nei componenti software non AI.
Approccio olistico alla sicurezza dell'AI
La CISA sottolinea che le pratiche e le politiche di sicurezza attese dalla comunità dovrebbero governare vari aspetti dello sviluppo dell'AI, tra cui design, sviluppo, dispiegamento, test, gestione dei dati, integrazione di sistema e gestione delle vulnerabilità e degli incidenti. Nei casi in cui i formati dei file dei modelli AI vengono elaborati, devono essere in atto misure robuste per scongiurare tentativi di esecuzione di codice non attendibile. Inoltre, si raccomanda l'uso di linguaggi sicuri per la memoria come ulteriore salvaguardia contro le potenziali minacce.
Responsabilità e trasparenza nell'ingegneria dell'AI
Oltre alle salvaguardie tecniche, la CISA esorta la comunità dell'ingegneria AI ad adottare pratiche che migliorino la responsabilità e la trasparenza. Ciò implica l'implementazione di identificatori di vulnerabilità come le CVE (Common Vulnerabilities and Exposures) e la manutenzione di un inventario software completo sia per i modelli AI che per le loro dipendenze. Le preoccupazioni sulla privacy non sono trascurate, poiché l'agenzia chiede di aderire ai principi fondamentali della privacy per impostazione predefinita.
Un momento cruciale per la sicurezza dell'AI
L'appassionata chiamata della CISA per un design sicuro dell'AI segna un punto cruciale nel regno dello sviluppo dell'AI. Collocando la sicurezza al centro del design e dello sviluppo, l'agenzia sostiene un cambiamento di paradigma che potrebbe potenzialmente evitare gravi violazioni della sicurezza in futuro. In un mondo in cui i sistemi AI stanno diventando sempre più pervasivi, questa posizione proattiva potrebbe spianare la strada a un paesaggio digitale più sicuro e resiliente.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Randa Moses
Randa Moses è un'editor e giornalista presso Cryptopolitan, dove si occupa di tecnologia, intelligenza artificiale, robotica, criptovalute, truffe e hacking. Opera nel settore delle criptovalute dal 2017. Ha ricoperto ruoli in Forward Protocol, AmaZix e Cryptosomniac. Randa è laureata in Ingegneria Elettrica ed Elettronica presso l'Università di Bradford.
