Lo strumento di rilevamento immagini di OpenAI mostra risultati promettenti ma affronta sfide
- OpenAI ha lanciato uno strumento in grado di individuare immagini generate dall'IA nell'ambito della lotta alle minacce dei deep fake.
- Il detector individua il 98% delle immagini del modello DALL-E 3, ma non riesce a rilevare quelle modificate.
- OpenAI prevede di migliorare lo strumento conducendo esperimenti e coordinandosi con ricercatori esterni.
Le immagini generate dall'IA possono ingannarti, facendoti percepire contenuti falsi come originali. Per questo motivo OpenAI, lo sviluppatore di ChatGPT, ha creato uno strumento in grado di determinare se un'immagine è stata prodotta da DALL-E 3, l'algoritmo per la generazione di immagini che hanno sviluppato.
Martedì, OpenAI ha dato agli utenti la prima occasione di provare uno strumento di rilevamento delle immagini basato su modelli di base e ottimizzati. L'obiettivo è coinvolgere ricercatori autonomi per esaminare l'affidabilità, l'utilità, le modalità di applicazione e i fattori che potrebbero influenzare i contenuti generati dall'IA.
Tasso di successo dello strumento e test
OpenAI ha testato internamente lo strumento: in alcuni aspetti i risultati sono incoraggianti, in altri deludenti. La valutazione delle immagini generate da DALL-E 3 ha mostrato una correttezza del 98%. Inoltre, analizzando immagini non create da DALL-E 3, il sistema le ha erroneamente attribuite a DALL-E 3 solo nello 0,5% dei casi.
OpenAI non ha rilevato modifiche all'immagine con differenze lievemente significative. Il team interno ha testato lo strumento comprimendo, ritagliando l'immagine creata da DALL-E 3 e introducendo variazioni di saturazione, osservando che lo strumento è stato comunque in grado di ottenere un buon livello di successo.
Sfide e limitazioni
Purtroppo, lo strumento non si è rivelato molto efficace con immagini elaborate in modo estensivo. Il testo dell'articolo di OpenAI non è chiaro sul numero di modifiche apportate nei casi descritti e afferma che "altre modifiche possono ridurre le prestazioni."
In un'intervista con The Wall Street Journal, Sandhini Agarwal, ricercatrice, ha dichiarato che lo strumento risulta meno efficace in situazioni come la modifica della tonalità dell'immagine e che è necessaria una sottoscrizione. Come ha precisato Agarwal, per affrontare questi tipi di problemi, OpenAI sta reclutando tester esterni da integrare nel sistema.
Inoltre, i test interni hanno anche messo in discussione la capacità dello strumento di analizzare le immagini generate da modelli AI di altre aziende. In tali situazioni, lo strumento di OpenAI è riuscito a riconoscere solo il 5% o il 10% delle immagini rispetto ai modelli diversi dal proprio. Tali modifiche nelle immagini, come i cambi di tonalità, hanno inoltre ridotto significativamente l'efficienza, ha dichiarato Agarwal al Journal.
Le immagini create dall'IA non sono solo artificiali, ma pongono problemi in questo anno elettorale. Gruppi risentiti, sia all'interno che al di fuori di un paese, possono facilmente utilizzare tali foto per screditare un politico emergente o una causa sostenuta. Oggi, quando i generatori di immagini IA continuano a evolversi, il confine tra realtà e fantasia è più difficile da distinguere che mai.
Adozione nel settore
D'altra parte, OpenAI sta cercando di aggiungere filigrane ai metadati delle immagini AI mentre le aziende diventano membri dell'Organizzazione per il Valore Utente (UVG). Il C2PA fa parte di un'iniziativa del settore tecnologico che prevede standard tecnici per rivelare l'origine del contenuto e la sua autenticità nel processo noto come watermarking. Il gigante Facebook Meta ha dichiarato all'inizio di questo mese che la sua IA sarà etichettata secondo lo standard C2PA a partire da maggio.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
