La Britannia si affida a Microsoft per il rilevamento dei deepfake nell'era del boom dell'IA

La Gran Bretagna ha annunciato piani di lavorare con Microsoft, accademici ed esperti tecnici per costruire un sistema di rilevamento dei deepfake, mentre crescono le preoccupazioni per la scala delle frodi generate dall'IA online.

L'iniziativa colloca deepfake, IA, Gran Bretagna, Microsoft e sistemi di rilevamento al centro di una nuova spinta per limitare i contenuti dannosi che stanno diventando sempre più realistici e difficili da individuare.

La Gran Bretagna mira alle frodi e alle immagini non consensuali

Secondo il governo, la partnership svilupperà un quadro di valutazione per il rilevamento dei deepfake, che creerà un insieme di standard condivisi per valutare i dispositivi di rilevamento per file audio, video e immagini alterati.

Oltre a fornire un benchmark per questi tipi di dispositivi di rilevamento contro esempi del mondo reale di utilizzo (frode e impersonificazione) nonché immagini o video di sfruttamento sessuale dei bambini.

La Ministra della Tecnologia Liz Kendall ha avvertito che questo rischio non esiste solo teoricamente.

"I deepfake sono utilizzati dai criminali per ingannare il pubblico, sfruttare donne e ragazze e diminuire la credibilità di ciò che vediamo e sentiamo. E continueranno finché non prenderemo misure per proteggere i cittadini e le istituzioni democratiche dalla manipolazione."

Kendall

L'alterazione dei media esiste da decenni. Tuttavia, gli esperti dicono che con lo sviluppo dell'IA, la quantità di denaro e abilità richieste per produrre un falso di alta qualità è più accessibile che mai.

Nel Regno Unito, c'è un maggiore focus sull'atto criminale di produrre immagini intime senza consenso come risultato diretto del rapido aumento del numero di immagini false prodotte dall'IA.

Secondo i dati governativi, ci sono stati otto milioni di immagini false prodotte come deepfake nel 2025 rispetto a soli 500.000 nel 2023. Questo mostra quanto rapidamente le persone stanno creando questo tipo di immagini.

Il quadro è stato creato per consentire alle forze dell'ordine di rilevare, prevenire e perseguire questo crimine e per fornire all'industria un chiaro insieme di aspettative riguardo alle normative sulla sicurezza.

Questo è un passo che i governi sono stati esortati a fare e Microsoft ha chiesto al Congresso nel 2024 di approvare nuove leggi che mirano ai deepfake generati dall'IA. Brad Smith, Vice Chair e Presidente di Microsoft, ha sottolineato l'urgenza per i legislatori di affrontare la crescente minaccia della tecnologia deepfake.

Nel suo post sul blog, Smith ha evidenziato l'importanza di adattare le leggi per affrontare le frodi deepfake e prevenire lo sfruttamento. Secondo Smith, dovrebbe esserci uno statuto che può essere utilizzato per accusare truffe e frodi di deepfake.

Secondo il rapporto di Microsoft, possono essere intraprese diverse interventi legali per prevenire l'uso improprio della tecnologia deepfake. Uno dei suggerimenti è creare uno statuto federale 'per le frodi deepfake'.

Pressare le piattaforme attraverso la regolamentazione

In tutto il mondo i regolatori stanno avendo difficoltà a tenere il passo con i rapidi progressi della tecnologia IA.

Nel Regno Unito, sia l'ufficio che regola le comunicazioni (il "Communications Regulator") sia l'ufficio che regola la privacy (il "Privacy Regulator") hanno iniziato a indagare sul chatbot Grok, gestito da Elon Musk, a causa del chatbot che produceva immagini sessualizzate di bambini create senza il loro consenso.

Come parte di questa indagine, i due organismi di regolamentazione lavoreranno insieme per sviluppare un nuovo quadro per assistere le forze dell'ordine e gli organismi di regolamentazione nell'istituzione di standard coerenti su come valutare gli strumenti di rilevamento utilizzati dalle forze dell'ordine e dagli organismi di regolamentazione.

Secondo Kendall, lo scopo di questo nuovo quadro è "promuovere il ripristino della fiducia in ciò che le persone vedono e sentono online", e richiedere che tutti i fornitori di tecnologia assumano la responsabilità di mitigare i potenziali danni correlati all'uso accelerato delle tecnologie IA.