- Le voci suggeriscono che il presidente russo Putin potrebbe utilizzare doppioni corporei potenziati dall'IA per le apparizioni pubbliche, ma le prove sono carenti e il Cremlino lo nega.
- La tecnologia di watermarking fatica ad autenticare i contenuti digitali contro gli deepfake AI in evoluzione, sollevando preoccupazioni sulla sua efficacia.
- Man mano che la tecnologia deepfake avanza, creare e rilevare falsi fanno parte di una continua corsa agli armamenti con gravi implicazioni per la sicurezza personale e pubblica.
In uno sviluppo che aggiunge una nuova dimensione alla sottile politica, le accuse sono riemorse sostenendo che il presidente russo Vladimir Putin potrebbe utilizzare sosia nelle apparizioni pubbliche, ulteriormente potenziati dalle tecnologie di AI generativa. Questa affermazione, sebbene priva di prove concrete e smentita dai funzionari russi, sottolinea le sofisticate capacità dell'AI moderna nel creare deepfake convincenti, presentando una sfida intricata per la verifica dell'autenticità.
L'ascesa dell'impersonificazione assistita dall'AI
I ricercatori giapponesi hanno lanciato nuovi dubbi sull'autenticità delle apparizioni pubbliche di Putin, presentando analisi che suggeriscono l'esistenza di diversi sosia che si spacciano per il leader russo. Sebbene il Cremlino respinga questi suggerimenti, la conversazione più ampia si sposta sui fondamenti tecnologici che rendono possibili tali inganni tramite deepfake AI.
La tecnologia deepfake si è evoluta al punto da non essere solo uno strumento per un intrattenimento innocuo, ma è diventata anche un potente mezzo per una potenziale manipolazione politica. OpenAI si è posizionata in prima linea su questo tema, riportando un tasso di successo del 99% nel rilevamento di tali falsificazioni. Nonostante questi progressi, gli esperti avvertono che il processo di identificazione rimane complesso e sta per diventare ancora più tale man mano che la tecnologia AI evolve.
Filigrane digitali vs deepfake: L'insufficienza delle attuali tutele
La tradizionale misura di sicurezza digitale della filigrana digitale, come esposta da aziende come Digimarc e la piattaforma AI Vertix di Google, si sta rivelando una soluzione meno che infallibile contro l'ondata di contenuti generati dall'AI. Invisibile a occhio nudo e progettata per preservare la qualità dell'immagine, la filigrana è destinata a significare autenticità. Tuttavia, l'efficacia della filigrana è messa in discussione, poiché i motori di AI generativa responsabili dei deepfake potrebbero non adottare universalmente questa funzione di sicurezza.
Inoltre, la natura open-source di molte piattaforme AI rappresenta un ostacolo significativo nella tutela dei contenuti digitali. La facilità con cui queste piattaforme possono essere accessibili, modificate e distribuite significa che qualsiasi funzione di sicurezza potrebbe essere facilmente aggirata da coloro che hanno le conoscenze e l'intento di farlo.
Una continua corsa agli armamenti nella tecnologia AI
Man mano che gli strumenti di rilevamento migliorano, migliorano anche le tecniche per creare deepfake, coinvolgendo le aziende tecnologiche e gli esperti di cybersecurity in un gioco incessante del gatto e del topo. Sebbene i modelli AI più grandi e più controllati mostrino promesse nel prevenire la creazione e la diffusione di contenuti illeciti, gli esperti riconoscono la necessità di una vigilanza continua e di un avanzamento nelle metodologie di rilevamento.
L'aumento del materiale di abuso sessuale minorile (CSAM) generato da deepfake è particolarmente allarmante, con i modelli AI open-source che facilitano la diffusione di tali contenuti. La Internet Watch Foundation del Regno Unito segnala la difficoltà nel distinguere queste immagini generate dall'AI dalle fotografie reali, complicando il lavoro delle forze dell'ordine e dei gruppi per la sicurezza su internet.
Implicazioni e prospettive future
Mentre il mondo affronta le implicazioni della tecnologia deepfake, il discorso ha raggiunto piattaforme globali, con organizzazioni come le Nazioni Unite che evidenziano il potenziale dei contenuti generati dall'AI di alimentare l'odio e diffondere disinformazione. Nel frattempo, il panorama legale si sta spostando, come dimostrato dalle cause di alto profilo intentate da celebrità per proteggere la propria immagine dall'uso non autorizzato generato dall'AI.
Con l'escalation delle puntate nella corsa agli armamenti dell'IA, il potenziale della tecnologia di arrecare danni o di guarire rimane in bilico. Mentre i confini tra reale e sintetico continuano a sfumare, la chiamata a un uso responsabile dell'IA non è mai stata così pressante, e il dibattito su questa questione è più pertinente che mai. La ricerca di una soluzione in grado di superare l'avanzamento della tecnologia ingannevole continua a motivare innovatori e parti interessate, con l'obiettivo di preservare l'integrità dei contenuti digitali in un mondo sempre più virtuale.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
