I giganti della tecnologia si uniscono per affrontare la minaccia dei deepfake con le Credenziali del Contenuto

In tutto il mondo, i deepfake hanno ricevuto molta attenzione. Poiché sono emerse molte aziende internazionali che utilizzano deepfake generati dall'IA, c'è un accordo generale sull'approccio a questo problema. All'inizio di quest'anno, Google presso C2PA è diventata un comitato direttivo insieme ad altri come OpenAI, Adobe, Microsoft, AWS e i membri della RIAA. A causa delle preoccupazioni per la disinformazione mainstream sui deepfake e sull'IA, il personale IT vorrà abbracciare il lavoro di questa agenzia, facendo riferimenti specifici alle credenziali del contenuto.

Credenziali del contenuto: il nuovo standard

Il settore sta per regolamentare un'area specifica di gestione dei dati visivi e video su tutta la linea, quindi il team IT sarà molto attento. Le Credenziali del Contenuto sono un modo per i metadata digitali che i creatori o i titolari dei contenuti possono utilizzare per ottenere i crediti appropriati e introdurre onestà in un ecosistema. Questi metadata irreversibili consistono nel nome e nei dettagli dell'artista e sono incisi direttamente nel contenuto quando viene esportato o scaricato.

Le etichette dei contenuti create secondo le stesse regole e permessi hanno grandi possibilità di implementare un'etichettatura standardizzata in un mondo completo e accogliente grazie al peso delle aziende dietro l'idea. Le Credenziali del Contenuto rappresentano un'opportunità unica per una varietà di motivi. Aiuteranno a rafforzare la credibilità e l'affidabilità tra il pubblico poiché forniscono informazioni necessarie sull'autore o sul processo creativo. Questo sviluppa l'atmosfera della stanza che aiuta a combattere la disinformazione e la disinformazione. 

Allega qualsiasi dettaglio di contatto con il loro lavoro per rafforzare l'identità degli artisti in modo che gli utenti possano rintracciarli e connettersi per il riconoscimento e la visibilità. Inoltre, ci saranno alcune misure mirate ai contenuti internet che non sono reali, come i contenuti falsi creati per ingannare le persone. La storia dell'Australia riflette il picco più grande di frodi con deepfake, simile al resto del mondo. Sumsub, nel suo terzo rapporto sulle frodi di identità, ha dichiarato che il numero di deepfake in Australia è aumentato di 15 volte rispetto all'anno precedente e la sofisticazione dei media falsi verso forme realistiche è ulteriormente avanzata.

Poiché l'occhio umano spegne la sua guardia quasi istantaneamente, i deepfake diventano altamente persuasivi. La ricerca indica che potrebbe richiedere solo 13 millisecondi per categorizzare le immagini, molto meno della durata che permette a un essere umano di elaborare le informazioni e autenticarle o rifiutarle. Il Commissario australiano eSafety nota che lo "sviluppo di innovazioni per aiutare a identificare i deepfake non sta ancora tenendo il passo con la tecnologia". Dal canto suo, il governo australiano si è impegnato a combattere i deepfake.

Combattere i deepfake in Australia

I deepfake presentano una minaccia molto reale per la stabilità e la sicurezza di tutti gli australiani. Qualsiasi campagna di prevenzione dei deepfake a lungo termine dovrebbe concentrarsi su campagne di sensibilizzazione che aiutano le persone a capire come funzionano i deepfake e le opzioni disponibili per evitare di cadere preda di questi trucchi.

Affinché questa visione diventi realtà, dovrà esserci un consenso a livello di settore, con i principali stakeholder del lato offerta che forniscono la tecnologia e hanno il maggiore impatto nell'IA. Ma è qui che entrano in gioco le Credenziali del Contenuto. Sebbene le credenziali del contenuto siano la migliore possibilità di creare standard che chiuderanno il problema dei deepfake, le questioni di rilevamento, regolamentazione e punizione dell'uso improprio rimarranno. Ciò significa che la prevenzione non è basata sull'industria né supportata da una massa di leader del campo nelle industrie dei media. Tali implementazioni possono raggiungere una grande fetta di internet, e in tali tempi, la maggior parte dei siti web è istantaneamente altrettanto informata dei siti virali nei motori di ricerca.

Le persone coinvolte in IT e IA operative per la creazione di contenuti desidereranno. Dovrebbero comprendere le Credenziali del Contenuto proprio come gli sviluppatori web sono arrivati al livello di intreccio con la sicurezza, la SEO e ogni standard che è lì per proteggere i contenuti dall'essere bannati. I passaggi che dovrebbero intraprendere includono:

Implementare le Credenziali del Contenuto: Innanzitutto, gli esperti IT dovrebbero assicurarsi che la loro azienda implementi e integri completamente le credenziali del contenuto nei flussi di lavoro per mantenere l'autenticità e la tracciabilità dei contenuti.

Promuovere la trasparenza: La proposta interna ed esterna con partner e clienti porta a un'advocacy organizzata affinché le organizzazioni siano trasparenti sull'uso dell'IA e accettino pratiche etiche nella creazione e distribuzione dei contenuti.

Supportare la regolamentazione: Considerare gli organismi di settore e il governo per guidare la formazione di politiche e regolamenti per contrastare le sfide indotte dai deepfake. Questo non coinvolgerà solo la partecipazione alle molte consultazioni pubbliche che il governo condurrà sull'IA, ma aiuterà anche a modellare il lavoro politico.

Collaborare: Combinare una maggiore competenza con altri professionisti e organizzazioni creando approcci e strumenti condivisi e coerenti per individuare i rischi dei deepfake.

Preparare strategie di risposta: Affrontare le sfide poste dai deepfake e preparare i piani quando questa tecnologia viene rilevata, come la gestione dei danni e delle comunicazioni.

Sfruttare le risorse della comunità: la piattaforma dovrebbe anche utilizzare risorse dalle comunità di cybersecurity come il Commissario eSafety per avere sviluppi recenti tempestivi.

La formazione dei deepfake è il compito più difficile per gli esperti di tecnologia dell'informazione, che devono trovare una soluzione applicabile. Le Credenziali del Contenuto forniscono un'ottima organizzazione di partenza per il mondo su cui il resto dell'industria può essere costruita.