Microsoft esorta il Congresso degli Stati Uniti ad affrontare i deepfake generati dall'IA

Microsoft ha chiesto al Congresso di approvare una nuova legislazione che miri ai deepfake generati dall'IA. Brad Smith, Vicepresidente e Presidente di Microsoft, ha sottolineato l'urgenza per i legislatori di affrontare la crescente minaccia della tecnologia deepfake. 

In un recente post sul blog, Smith ha sottolineato l'importanza di adattare le leggi per affrontare le frodi con deepfake e prevenire lo sfruttamento. Secondo Smith, dovrebbe esserci uno statuto che può essere utilizzato per accusare truffe e frodi con deepfake.

Microsoft propone uno statuto federale per le frodi con deepfake

Secondo il rapporto di Microsoft, possono essere intraprese diverse interventi legali per prevenire l'uso improprio della tecnologia deepfake. Una delle proposte è creare uno "statuto federale per le frodi con deepfake". Questa nuova legge si occuperebbe delle dimensioni civili e penali delle frodi con contenuti sintetici e potrebbe includere le seguenti misure: accuse penali, sequestro civile e ingiunzioni. 

Il rapporto sostiene anche il requisito di identificazione dei contenuti sintetici. Attraverso la regolamentazione dell'uso di strumenti di provenienza avanzati, il pubblico apprezzerebbe quindi l'origine dei contenuti che riceve online. Questo è importante per la credibilità delle informazioni digitali e per fermare la diffusione di notizie false. 

"Il Congresso dovrebbe richiedere ai fornitori di sistemi IA di utilizzare strumenti di provenienza all'avanguardia per etichettare i contenuti sintetici. Questo è essenziale per costruire fiducia nell'ecosistema informativo e aiuterà il pubblico a comprendere meglio se un contenuto è generato dall'IA o manipolato."

Brad Smith

Inoltre, Microsoft suggerisce di emendare le leggi attuali sullo sfruttamento minorile e sulle immagini esplicite non consensuali per coprire le immagini prodotte dall'IA. Questo garantirebbe che i quadri giuridici siano in linea con gli sviluppi tecnologici per proteggere anche il gruppo vulnerabile di persone. 

Il Senato degli Stati Uniti ha recentemente intrapreso passi in questa direzione approvando un disegno di legge mirato ai deepfake sessualmente espliciti. Questa nuova legge consente alle vittime di deepfake AI sessualmente espliciti non consensuali di citare in giudizio i creatori dei contenuti. 

La FCC dice "no" alle robocall con voci IA

Microsoft ha anche risposto all'uso improprio dell'IA rafforzando le misure di sicurezza sui suoi prodotti. L'azienda ha recentemente migliorato il creatore di immagini AI Designer dopo una vulnerabilità che era stata sfruttata per produrre immagini oscene di celebrità. Smith ha detto che il settore privato deve mettere in atto misure per garantire che l'IA non venga abusata, e spetta alle aziende tecnologiche garantire che gli utenti non subiscano danni. 

La FCC ha già agito contro l'uso improprio dell'IA bandendo l'uso della voce IA nelle robocall. Tuttavia, l'IA generativa sta migliorando sempre di più nella generazione di audio, immagini e video falsi. Questo problema è stato recentemente esacerbato da un video deepfake del Vicepresidente degli Stati Uniti Kamala Harris, che è stato diffuso sui social media ed esemplifica il crescente pericolo della tecnologia deepfake.

Altre organizzazioni non profit, come il Center for Democracy and Technology (CDT), sono anche coinvolte nella lotta contro l'abuso di deepfake. Come notato da Tim Harper, analista senior delle politiche del CDT, l'anno 2024 segna il punto di svolta critico per l'IA nelle elezioni, e le persone devono prepararsi ad esso. L'attuale resistenza contro i deepfake è una forma iniziale di ciò che potrebbe essere una lotta protratta contro la manipolazione tecnologica.