I giganti della tecnologia forgiarono un'alleanza contro i contenuti generati dall'AI
- Big Tech implementa misure per rilevare i contenuti generati dall'IA, migliorando la trasparenza.
- Le sfide tecniche persistono nell'etichettatura e nel rilevamento dei media generati dall'IA.
- I quadri normativi emergono insieme agli sforzi volontari per contrastare i contenuti generati dall'IA.
In risposta alle crescenti preoccupazioni per la proliferazione di contenuti generati dall'AI, le principali aziende tecnologiche hanno annunciato iniziative mirate a rilevare e etichettare tali contenuti.
Questi sforzi arrivano in seguito a incidenti come lo scandalo dei deepfake pornografici di Taylor Swift e la diffusione di deepfake politici .
I Big Tech collaborano per etichettare e rilevare i contenuti generati dall'AI.
Meta, ex Facebook, ha annunciato piani per etichettare le immagini generate dall'AI sulle sue piattaforme, inclusi Facebook, Instagram e Threads. Queste etichette, marcatori visibili, watermark invisibili e metadati incorporati nei file immagine mirano ad aumentare la trasparenza e la responsabilità riguardo alle origini dei contenuti.
Google, d'altra parte, si è unito al comitato direttivo della C2PA (Content Authenticity Initiative), sostenendo un protocollo open-source progettato per fornire
OpenAI implementa misure di provenienza dei contenuti
OpenAI ha anche introdotto misure per affrontare il problema. Aggiungerà watermark ai metadati delle immagini generate con i suoi modelli AI, ChatGPT e DALL-E 3, fornendo un'etichetta visibile che indica il coinvolgimento dell'AI nella creazione dei contenuti.
Sebbene questi metodi rappresentino un passo avanti, non sono infallibili, con sfide rimanenti nell'etichettatura e nel rilevamento di video, audio e testi generati dall'AI.
Sfide e prospettive future
Nonostante i progressi nell'etichettatura e nel watermarking dei contenuti, persistono limitazioni tecniche. I watermark nei metadati possono essere aggirati catturando screenshot, mentre le etichette visive sono suscettibili di ritaglio o modifica. I watermark invisibili come SynthID di Google offrono una maggiore resilienza ma non sono privi di sfide.
Necessità di quadri normativi
In aggiunta alle misure volontarie, i quadri normativi stanno guadagnando trazione. Iniziative come l'AI Act dell'UE e il Digital Services Act impongono la divulgazione dei contenuti generati dall'AI e la rimozione accelerata dei contenuti dannosi. I legislatori statunitensi stanno anche prendendo in considerazione regole vincolanti sui deepfake, con la Federal Communications Commission che ha recentemente bandito l'uso dell'AI nelle chiamate robotiche.
Sebbene le linee guida volontarie siano un passo nella direzione giusta, persistono preoccupazioni riguardo alla responsabilità del settore. La storia di autoregolamentazione del settore tecnologico solleva dubbi sull'efficacia delle misure volontarie. Tuttavia, gli annunci recenti segnalano progressi rispetto alla precedente mancanza di azione.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Emman Omwanda
L'expertise di Emmanuel Omwanda riguarda i mercati delle criptovalute, spaziando sia dall'analisi fondamentale che da quella tecnica. In precedenza ha lavorato con vari media crypto prima di unirsi a Cryptopolitan, tra cui CoinEdition, The Crypto Basic, CryptoNews Flash e DroomDroom. È laureato in Scienze Matematiche e Informatiche presso l'Università Kenyatta del Kenya e attualmente frequenta l'ultimo anno di laurea in Comunicazione e Studi sui Media.
