Il Pentagono si allea con un'azienda di IA per testare nuovi modelli LLM
Pentagono
- Scale AI creerà un framework di test e valutazione (T&E) per i modelli linguistici di grandi dimensioni (LLM) del Pentagono. L'obiettivo è garantire che siano sicuri e affidabili per l'uso militare.
- Il processo T&E prevederà la creazione di "dataset holdout". Gli addetti ai lavori del Dipartimento della Difesa suggeriranno coppie di risposte. Le esamineranno e si assicureranno che siano di qualità pari a quella di una risposta umana nel contesto militare.
- L'obiettivo è rendere i sistemi di intelligenza artificiale più robusti e resilienti. Ciò consentirà l'utilizzo della tecnologia LLM in ambienti sicuri. Aiuterà inoltre il DoD a comprendere i punti di forza e i limiti della tecnologia.
Scale AI sta creando un piano di test ed esecuzione (T&E) per i modelli di linguaggio di grandi dimensioni (LLM) del Pentagono. Il progetto mira a garantire che i modelli di IA siano sicuri e affidabili per l'uso militare.
L'Ufficio Chief Digital and Artificial Intelligence (CDAO) del Pentagono ha bisogno di un modo per testare e valutare i modelli di IA per l'uso militare. Il CDAO vuole utilizzare i LLM per supportare e migliorare la pianificazione e il processo decisionale militare. Tuttavia, i LLM possono anche interrompere questi processi.
Il Pentagono utilizza processi T&E da molto tempo per garantire che i suoi sistemi, piattaforme e tecnologie funzionino bene. Tuttavia, gli standard e le politiche di sicurezza dell'IA non sono ancora definiti. Le complessità e le incertezze dei LLM rendono il T&E ancora più difficile per l'IA generativa.
Come funzionerà?
Scale AI creerà un framework per il CDAO per testare e valutare i LLM. Il processo T&E includerà la creazione di
Il processo sarà iterativo e, una volta pronti i dataset, gli esperti valuteranno i LLM esistenti rispetto a tali dataset. Alla fine, i modelli invieranno segnali ai funzionari del CDAO se inizieranno a discostarsi dai domini per cui sono stati testati.
L'obiettivo del Pentagono
L'obiettivo è migliorare la robustezza e la resilienza dei sistemi di intelligenza artificiale in ambienti classificati. Ciò consentirà l'adozione della tecnologia LLM in ambienti sicuri. L'azienda prevede di automatizzare il più possibile il processo di sviluppo. In questo modo, con l'arrivo di nuovi modelli, si potrà avere una comprensione di base delle loro prestazioni, dei punti di forza e delle probabili aree di fallimento.
Vantaggi della partnership
La partnership tra Scale AI e il Dipartimento della Difesa (DoD) è un passo significativo verso il sicuro e responsabile impiego di LLM e intelligenza artificiale generativa all'interno delle forze armate. Il framework T&E aiuterà il DoD a comprendere i punti di forza e le limitazioni della tecnologia. Garantirà inoltre che i modelli siano affidabili, sicuri ed efficaci per le applicazioni militari.
Il CEO di Scale AI, Alexandr Wang, ha dichiarato: «Il test e la valutazione dell'intelligenza artificiale generativa aiuteranno il DoD a comprendere i punti di forza e le limitazioni della tecnologia, consentendone un impiego responsabile. Scale si onora di collaborare con il DoD su questo framework.»
Oltre al CDAO, Scale AI ha stretto partnership con Meta, Microsoft, l'Esercito degli Stati Uniti, la Defense Innovation Unit, OpenAI, General Motors, Toyota Research Institute, Nvidia e altri. Queste partnership dimostrano l'impegno di Scale AI a garantire un impiego sicuro e responsabile della tecnologia AI.
La partnership tra Scale AI e il Pentagono è un grande passo. È un passo verso la garanzia dell'uso sicuro dei LLM e dell'intelligenza artificiale generativa nell'esercito. Il framework T&E aiuterà il Dipartimento della Difesa (DoD) a comprendere i punti di forza e i limiti della tecnologia. Garantirà anche che i modelli siano affidabili, sicuri ed efficaci. Questo è destinato all'uso militare. Con l'esperienza di Scale AI e la necessità del Pentagono di T&E, questa partnership è un vantaggio per entrambe le parti.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per gli investimenti effettuati sulla base delle informazioni fornite in questa pagina. Raccomandiamo vivamente ricerche indipendenti e/o consultazioni con un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Randa Moses
Randa Moses è un'editor e giornalista presso Cryptopolitan, dove si occupa di tecnologia, intelligenza artificiale, robotica, criptovalute, truffe e hacking. Opera nel settore delle criptovalute dal 2017. Ha ricoperto ruoli in Forward Protocol, AmaZix e Cryptosomniac. Randa è laureata in Ingegneria Elettrica ed Elettronica presso l'Università di Bradford.
