Il software IA di Nvidia espone dati sensibili – Dettagli
VS0521 FT Macchina di apprendimento automatico p1FT AI
- Il software AI di Nvidia, il Framework NeMo, ha esposto dati privati a causa di un difetto del software.
- I ricercatori di Robust Intelligence hanno aggirato le protezioni del software, rivelandone le vulnerabilità di sicurezza.
- Nonostante la correzione di uno dei problemi, la violazione della sicurezza solleva preoccupazioni sulla commercializzazione dell'IA e sulla fiducia del pubblico.
Rivelazioni inquietanti sono emerse riguardo ai meccanismi di sicurezza all'interno del software di intelligenza artificiale (IA) di Nvidia, il NeMo Framework, a seguito di una recente indagine.
Una svolta cruciale nel software, progettato per soddisfare l'elaborazione dei modelli linguistici per soluzioni basate su IA come i chatbot, è stata sfruttata, esponendo dati sensibili e innescando così preoccupazioni per la sicurezza.
Esporre la linea di faglia nel framework NeMo di Nvidia
Considerato uno strumento strumentale per le aziende, il NeMo Framework è stato progettato da Nvidia per accommodare dati proprietari per rispondere alle query, simile a come farebbe un rappresentante del servizio clienti o un consulente sanitario.
Tuttavia, la struttura apparentemente sicura di questo framework è stata facilmente superata dai ricercatori di Robust Intelligence di San Francisco, superando le protezioni integrate in poche ore.
In un esperimento controllato, i ricercatori hanno apportato una modifica apparentemente insignificante, sostituendo la lettera 'I' con 'J'. Eppure, questa modifica apparentemente minore ha portato a una grave violazione poiché il sistema ha rilasciato Informazioni di Identificazione Personale (PII) da un database.
Le implicazioni di questa violazione presentano rischi potenziali considerevoli per le aziende e gli utenti che affidano i loro dati sensibili a sistemi di IA come quello di Nvidia.
Un ulteriore test ha rivelato che l'IA poteva essere manipolata per deviare dal suo comportamento previsto, affrontando argomenti che non era destinata a discutere.
Ad esempio, mentre la conversazione era diretta verso un rapporto sul lavoro, il modello è stato manipolato per parlare di argomenti non correlati come la condizione di salute di una celebrità o eventi storici come la guerra franco-prussiana, tutto in defiance delle restrizioni integrate del sistema.
Navigare le acque agitate della commercializzazione dell'IA
Tali risultati sottolineano la sfida affrontata da aziende come Nvidia mentre si sforzano di monetizzare l'IA, una delle innovazioni più promettenti di Silicon Valley.
Il Chief Executive di Robust Intelligence, il Professore di Informatica dell'Università di Harvard Yaron Singer, ha definito i risultati una lezione sobria nel riconoscere le potenziali trappole nella tecnologia dell'IA. L'azienda di Singer ora consiglia i suoi clienti contro l'uso del prodotto software di Nvidia.
A seguito della divulgazione di questi risultati, Nvidia avrebbe affrontato una delle cause radice identificate dai ricercatori.
Nonostante gli intoppi, le azioni della società hanno registrato un significativo aumento grazie alle forti previsioni di vendita e alla crescente domanda dei loro chip, considerati cruciali per la costruzione di sistemi di intelligenza artificiale generativa in grado di produrre contenuti simili a quelli umani.
Jonathan Cohen, vice presidente della ricerca applicata di Nvidia, ha descritto il NeMo Framework come una piattaforma di lancio per lo sviluppo di chatbot AI che aderisce a linee guida di sicurezza, protezione e tematiche specifiche.
Ha inoltre riconosciuto l'importanza dei risultati della ricerca di Robust Intelligence per lo sviluppo futuro delle applicazioni di intelligenza artificiale.
L'incidente evidenzia una sfida più ampia per le aziende di intelligenza artificiale, tra cui giganti come Google e OpenAI sostenuta da Microsoft, che hanno avuto la loro quota di incidenti di sicurezza nonostante l'istituzione di barriere di sicurezza per evitare che i loro prodotti AI mostrassero comportamenti inappropriati.
Come ha notato Bea Longworth, capo degli affari governativi di Nvidia in Europa, Medio Oriente e Africa, durante una conferenza di settore, costruire la fiducia del pubblico è una priorità importante per le aziende di intelligenza artificiale.
Il potenziale dell'IA è enorme, ma l'onere ricade sui fornitori di tecnologia come Nvidia per garantire che questi sistemi avanzati non siano percepiti come minacce, ma come strumenti benefici per il futuro.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità: Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per gli investimenti effettuati sulla base delle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Jai Hamid
Jai Hamid si occupa di criptovalute, mercati azionari, tecnologia, economia globale ed eventi geopolitici che influenzano i mercati da 6 anni. Ha collaborato con pubblicazioni focalizzate sulla blockchain, tra cui AMB Crypto, Coin Edition e CryptoTale, per analisi di mercato, grandi aziende, regolamentazione e tendenze macroeconomiche. Si è formata presso la London School of Journalism e ha condiviso tre volte le sue analisi sui mercati delle criptovalute su una delle principali reti televisive dell'Africa.
