Il nuovo strumento di OpenAI che individua le immagini false ha 99% di accuratezza
Il nuovo strumento OpenAI per individuare immagini false è accurato 99%
- Le immagini generate dall'IA stanno diventando sempre più difficili da distinguere, ma non è impossibile.
- OpenAI ha affermato che il suo strumento, ancora in arrivo, sarà in grado di rilevare le immagini generate dall'IA con una precisione del 99%.
- La possibilità che gli strumenti per la generazione di immagini tramite IA vengano utilizzati da soggetti malintenzionati sottolinea la necessità di strumenti di rilevamento.
Rilevare le immagini generate dalla tecnologia IA sta diventando piuttosto difficile. Negli ultimi mesi, molti strumenti di generazione di immagini IA si sono aggiornati a versioni più nuove e avanzate, con la capacità di produrre immagini difficili da distinguere, ma non è impossibile.
In un articolo precedente, Cryptopolitan ha rivelato alcune delle cose a cui prestare attenzione quando si cerca di distinguere tra immagini generate dall'IA e immagini reali. Alcuni degli indizi includono nome del file e metadati, tracce di filigrana, volti buffi e distorti, specialmente per le immagini con più volti, e così via.
OpenAI afferma di avere 99% di accuratezza per il suo strumento di rilevamento delle immagini IA
Inoltre, OpenAI, l'azienda dietro ChatGPT, ha promesso una nuova soluzione che potrebbe aiutare a rilevare le immagini generate dall'IA con un alto grado di accuratezza.
Business Post ha riferito mercoledì che OpenAI sta sviluppando uno strumento di rilevamento delle immagini AI che è "affidabile al 99 per cento", secondo il chief technology officer dell'azienda, Mira Murati.
L'azienda aveva già lasciato intendere a luglio che stava lavorando allo sviluppo di modi per rilevare i contenuti generati dall'IA, incluse immagini e audio. Al momento, lo strumento è ancora in fase di test interni in vista di un previsto rilascio pubblico. Tuttavia, Murati non ha rivelato una scadenza specifica per il rilascio.
La possibilità che gli strumenti di generazione di immagini AI possano essere sfruttati anche da attori malintenzionati per ingannare o causare danni sottolinea la necessità di disporre di strumenti di rilevamento.
I pericoli dei deepfake AI
A marzo, un deepfake AI di Papa Francesco in un cappotto imbottito è diventato virale, scatenando la frenesia di molte persone. In una dichiarazione successiva, il Papa ha affermato che l'IA è "dotata di possibilità disruptive ed effetti ambivalenti."
Il Papa ha notato che i pregiudizi negli algoritmi dell'IA sono un problema serio, chiedendo garanzie che "una logica di violenza e discriminazione non radichi nella produzione e nell'uso di tali dispositivi, a scapito dei più fragili ed esclusi."
Ad agosto, si è verificato un incidente simile in cui alcune immagini generate dall'IA sono emerse su Internet, mostrando cumuli di rifiuti per le strade di Parigi. Una compilation video delle immagini è stata visualizzata più di 400.000 volte nella settimana.
Ha creato una falsa narrazione su Parigi, in cui alcuni hanno detto: "Questo è l'aspetto della capitale francese, Parigi. La città dei sogni... ora trasformata in questo nella realtà."
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Ibiam Wayas
Ibiam Wayas si occupa di notizie sul crypto dal 2019. Si è laureato in Informatica presso l'Open University of Nigeria. I suoi lavori sono apparsi su varie piattaforme di notizie crypto, tra cui Coinfomania, Crypto News Australia e AltcoinBuzz. Sfruttando il suo background in Informatica, ora si concentra su notizie relative a crypto, robotica e longevità.
