Strumenti di sicurezza potenziati dall'IA e la nuova sfida di DARPA per gli sviluppatori open source
- DARPA lancia l'AI Cyber Challenge (AIxCC) per promuovere strumenti di sicurezza basati sull'IA, offrendo premi per un totale di 20 milioni di dollari.
- L'impatto dell'IA sulla sicurezza rimane incerto, ma gli esperti avvertono di non ignorarne il potenziale.
- L'IA multimodale, in evoluzione rispetto all'IA generativa, sarà presto in grado di interpretare chat, video e linguaggio del corpo.
L'intelligenza artificiale (IA), in particolare i modelli linguistici di grandi dimensioni (LLM) come GPT, è stata al centro delle discussioni alle recenti conferenze Black Hat e Def Con a Las Vegas. Tuttavia, gli esperti sono divisi su come l'IA impatterà la postura di sicurezza delle aziende, dalla protezione dei dati interni allo sviluppo di applicazioni.
Maria Markstedter, ingegnere inverso ed esperta di exploit di Arm, ha parafrasato la dichiarazione del CEO di OpenAI Sam Altman secondo cui 'l'IA porterà molto probabilmente alla fine del mondo, ma nel frattempo ci saranno grandi aziende'. Markstedter, durante il suo discorso principale a Black Hat, ha raccomandato il motto 'Muoviti veloce, rompi le cose', sottolineando che i prodotti spesso mancano inizialmente di funzioni di sicurezza e le aziende devono essere costrette a investire nella sicurezza.
IA generativa e IA multimodale
L'IA generativa, che attualmente si concentra sul testo, sta evolvendo verso l'IA multimodale, capace di gestire chat, risposte video in diretta, analisi del sentiment e persino l'interpretazione del linguaggio del corpo, secondo Markstedter. Ha sottolineato l'importanza di mantenere l'anonimato in questi sistemi e di ripensare la sicurezza dei dati.
Impatto sulla Sicurezza
L'impatto dell'IA sulla sicurezza è ancora incerto. Markstedter ha sottolineato che l'IA sta già influenzando la sicurezza dei dati, come dimostrato dai dipendenti che copiano i dati in chatbot IA a scatola nera. Tuttavia, le implicazioni più ampie per la sicurezza rimangono poco chiare. Gli LLM possono generare codice malevolo, ma non possono eseguirlo, secondo due ex dipendenti di OpenAI che hanno discusso il potenziale utilizzo dell'IA nella sicurezza.
Nonostante l'incertezza, c'era un consenso sul fatto che vietare l'IA non sia una soluzione a lungo termine valida. Le aziende sono ansiose di adottare tecnologie IA e la sicurezza dell'IA alla fine richiederà l'adozione di LLM e altre tecnologie IA. Coloro che non lo faranno rimarranno indietro, hanno avvertito gli esperti di sicurezza.
Accogliere l'IA nella sicurezza
Markstedter ha sostenuto che integrare agenti autonomi è rischioso, ma è essenziale accettare la loro realtà e sviluppare soluzioni per renderli più sicuri. 'Questa è la nostra opportunità di reinventare noi stessi [e] la nostra postura di sicurezza', ha detto, chiedendo alla comunità di unirsi e promuovere la ricerca.
La sfida cyber IA di DARPA
L'organizzazione di difesa DARPA ha sfidato i partecipanti a Black Hat e Def Con ad aiutare a creare un sistema di sicurezza reattivo di nuova generazione basato sull'IA. Perri Adams, responsabile del programma nell'Information Innovation Office di DARPA, ha annunciato la sfida AI Cyber Challenge (AIxCC) biennale durante l'evento principale di Black Hat.
L'AIxCC mira a sviluppare una nuova generazione di strumenti di cybersecurity e offre un totale di 20 milioni di dollari in premi per i team che creano i migliori sistemi. La competizione ha due tracce: la Traccia Finanziata e la Traccia Aperta. I concorrenti della Traccia Finanziata saranno selezionati dalle proposte presentate a una sollecitazione Small Business Innovation Research, con fino a sette piccole imprese che riceveranno finanziamenti fino a 1 milione di dollari. I concorrenti della Traccia Aperta possono registrarsi tramite il sito web della competizione senza finanziamenti DARPA.
Nel 2024, DefCon determinerà le migliori cinque aziende, che passeranno a un secondo round di sperimentazione con un ulteriore finanziamento di 2 milioni di dollari. I vincitori di Def Con 2025 riceveranno 4 milioni di dollari per il primo posto, 3 milioni per il secondo e 1,5 milioni per il terzo.
Collaborazione con le principali aziende di IA
L'AIxCC si sta partnerizzando con le principali aziende di IA, tra cui Anthropic, Google, Microsoft e OpenAI. La Open Source Security Foundation (OpenSSF), un progetto della Linux Foundation, fungerà da consulente della sfida per guidare i team nella creazione di sistemi IA in grado di affrontare questioni vitali di cybersecurity, come la sicurezza delle infrastrutture critiche nazionali e delle catene di approvvigionamento software.
Le competizioni AIxCC si terranno a DEF CON e consisteranno in due fasi: la fase semifinale e la fase finale. Entrambe le competizioni si svolgeranno a DEF CON a Las Vegas nel 2024 e nel 2025.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
John Palmer
John Murangiri è arrivato su Cryptopolitan con competenze nell'analisi di mercato. John (noto anche come JP) si è laureato presso l'Università di Nairobi con una laurea in comunicazione di massa e studi sui media. In precedenza ha contribuito con approfondimenti sul mercato delle criptovalute a InsideBitcoins.com e Metacoingraph.
