- "Nightshade" interrompe i dati di addestramento dell'AI, dando potere agli artisti contro le violazioni del copyright.
- Gli artisti cercano protezione mentre i modelli AI utilizzano il loro lavoro senza consenso.
- Il complesso processo di rimozione di OpenAI stimola lo sviluppo di strumenti come Nightshade.
La tecnologia di IA generativa, come ChatGPT di OpenAI, ha compiuto progressi significativi nell'elaborazione del linguaggio naturale. Tuttavia, questi modelli IA si basano su dataset massicci recuperati dal web, sollevando preoccupazioni tra artisti e fotografi il cui lavoro viene utilizzato senza permesso o compenso.
Artisti e Fotografi vs. IA Generativa
Gli strumenti di IA generativa possono creare immagini da prompt di testo, ma si basano su immagini online recuperate per l'addestramento. Questo ha portato artisti e fotografi a esprimere frustrazione per l'utilizzo del loro lavoro creativo senza consenso. Cercano modi per proteggere i loro diritti di proprietà intellettuale.
Nightshade: Uno strumento per confondere i modelli IA
Un team di ricercatori ha sviluppato uno strumento chiamato “Nightshade” per combattere questo problema. Nightshade è progettato per interrompere i modelli di addestramento IA introducendo pixel invisibili nelle opere d'arte prima che vengano caricate sul web. Questo processo “avvelena” i dati di addestramento, causando la generazione di immagini inaccurate da parte dei modelli IA in risposta ai prompt.
Implicazioni per i modelli IA
MIT Technology Review segnala che l'uso di Nightshade potrebbe potenzialmente danneggiare le future iterazioni di modelli IA generativi di immagini come DALL-E, Midjourney e Stable Diffusion. Questi modelli potrebbero produrre output in cui i cani diventano gatti, le auto diventano mucche e altro ancora. La ricerca dietro Nightshade è stata sottoposta a revisione tra pari, evidenziandone l'importanza.
Bilanciare il potere: Artisti vs. aziende tech
Nightshade offre una scintilla di speranza per gli artisti che cercano di proteggere le loro creazioni. Ben Zhao, professore all'Università di Chicago che ha guidato il team di ricerca, suggerisce che questo strumento potrebbe spostare l'equilibrio del potere a favore dei creatori di contenuti. Serve come monito per le aziende tech che ignorano i diritti di copyright e di proprietà intellettuale.
La scala del problema
I grandi modelli IA utilizzano dataset composti da miliardi di immagini, rendendo significativo l'impatto delle immagini avvelenate. Più immagini avvelenate vengono integrate in questi modelli, maggiore è la perturbazione che causano, potenzialmente ridefinendo il panorama dell'IA.
Collaborazione open source e uso etico
Il team dietro Nightshade prevede di rilasciarlo come strumento open source, invitando altri a raffinarne e migliorarne l'efficacia. Sottolineano che Nightshade dovrebbe essere visto come un'ultima risorsa per i creatori di contenuti che affrontano scraper web che ignorano i loro diritti.
Sfide nella protezione dei diritti degli artisti
OpenAI, il creatore di DALL-E, ha recentemente iniziato a consentire agli artisti di rimuovere il proprio lavoro dai suoi dati di addestramento. Tuttavia, il processo è stato criticato come oneroso, richiedendo agli artisti di inviare richieste individuali per ogni immagine che vogliono rimuovere. Semplificare questo processo di rimozione potrebbe scoraggiare gli artisti dal ricorrere a strumenti come Nightshade, che potrebbero avere ripercussioni a lungo termine per gli sviluppatori IA.
Mentre la battaglia tra artisti che cercano di proteggere i loro diritti di proprietà intellettuale e sviluppatori IA che addestrano i loro modelli si intensifica, strumenti come Nightshade potrebbero diventare un'arma vitale per i creatori di contenuti. L'uso etico dell'IA e il rispetto per le questioni di copyright stanno diventando sempre più importanti nell'evoluzione del panorama dell'intelligenza artificiale.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Glory Kaburu
Glory è una giornalista estremamente competente, esperta di strumenti AI e ricerca. È appassionata di intelligenza artificiale e ha scritto diversi articoli sull'argomento. Si tiene aggiornata sugli ultimi sviluppi nell'intelligenza artificiale, nel machine learning e nel deep learning, scrivendone regolarmente.
