Meta rimuove lo strumento di intelligenza artificiale per l'acquisizione di immagini da Instagram, mettendo alla prova i limiti dell'IA per il rilevamento delle somiglianze

A soli tre giorni dal lancio, Meta ha rimosso da Instagram una funzionalità che permetteva agli utenti di utilizzare l'intelligenza artificiale per creare immagini basate sulle foto profilo di altri utenti. La decisione dell'azienda di eliminare la funzione dimostra la crescente preoccupazione per il consenso e l'utilizzo delle immagini nell'era dell'intelligenza artificiale.

Iltracindietro rappresenta una prima battuta d'arresto per gli sforzi di Meta volti a recuperare terreno rispetto a OpenAI e Google nel campo dell'intelligenza artificiale generativa. Sebbene il modello di immagine Muse sia ancora disponibile, l'azienda ha eliminato l'opzione di creare immagini basate su profili Instagram pubblici nelle sue richieste di generazione di immagini, in seguito alle critiche ricevute da creatori, artisti e difensori della privacy.

Ciò che Meta ha costruito e ciò che ha poi ritirato

Meta ha presentato Muse Image , affermando che il nuovo strumento di generazione di immagini basato sull'intelligenza artificiale è il primo prodotto del suo Superintelligence Lab, guidato da Alexandr Wang. La nuova tecnologia offre 30 effetti su Instagram e, secondo i test interni di Meta, supera Google Nano Banana 2, posizionandosi subito dopo il generatore di immagini di ChatGPT.

La controversia non si è concentrata sul modello in sé, bensì sul modo in cui gestiva le immagini caricate dagli utenti. Taggando il proprio account Instagram pubblico per adulti, gli utenti potevano utilizzare le immagini pubbliche di tale account nelle foto generate dall'intelligenza artificiale. Gli utenti di età inferiore ai 18 anni e gli account privati ​​erano esclusi dal sistema, mentre gli account pubblici per adulti venivanomaticinclusi, a meno che non venissero disattivati ​​manualmente dagli utenti.

Secondo Meta, l'obiettivo della funzionalità era quello di dare agli utenti "il controllo sulla possibilità che i loro contenuti pubblici venissero citati". Tuttavia, molti critici la pensano esattamente al contrario: introdurre il sistema di opt-out significa dare per scontato il consenso.

Di conseguenza, entro venerdì l'azienda ha cambiato idea.

Un rappresentante di Meta ha dichiarato a Variety: "Abbiamo preso atto dei feedback secondo cui questa funzionalità non ha centrato l'obiettivo, quindi non è più disponibile".

I creatori e i gruppi di sicurezza hanno costretto a tornare sui propritrac

La funzionalità ha suscitato critiche quasi immediatamente dopo il suo lancio. La Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) ha consigliato ai suoi membri di disattivarla, avvertendo gli artisti di "prendere provvedimenti per proteggere la propria immagine"

L'agenzia di talenti Creative Artists Agency, LLC (CAA), che rappresenta tra gli altri Tom Hanks e Meryl Streep, ha dichiarato di essere in contatto diretto con Meta e ha espresso la sua contrarietà all'utilizzo da parte del sistema di intelligenza artificiale di nomi, immagini, sembianze e voci di persone senza il loro esplicito consenso.

Nel frattempo, i difensori della privacy hanno avvertito che la tecnologia potrebbe facilitare l'usurpazione d'identità, la diffusione non consensuale di immagini intime e le truffe online. Haley McNamara, del National Center on Sexual Exploitation, ha affermato nella sua intervista per The Verge che l'idea che gli individui possano scegliere di non partecipare ha spostato la responsabilità dall'azienda agli utenti della tecnologia.

La controversia mette in luce la battaglia legale sulle somiglianze generate dall'intelligenza artificiale

La controversia mette in luce una questione più ampia che il settore dell'IA si trova ad affrontare: pubblicare una foto pubblicamente conferisce automaticamente alle aziende il diritto di utilizzarla per l'intelligenza artificiale generativa?

Questo argomento si collega sempre più al diritto europeo in materia di privacy. Il Regolamento generale sulla protezione dei dati (GDPR) defile immagini delle persone come dati personali, il che significa che le organizzazioni devono trovare una base giuridica per il trattamento di tali dati ai sensi dell'articolo 6.

Qualora sia necessario ottenere il consenso di un individuo, l'articolo 7 stabilisce che tale consenso debba essere libero, specifico e informato. L'articolo 9 specifica che il trattamento dei dati biometrici dovrebbe richiedere una maggiore responsabilità al fine didentin modo univoco una persona. Gli articoli da 12 a 14 stabiliscono inoltre che le organizzazioni debbano descrivere le modalità di utilizzo dei dati personali, in modo che gli individui siano maggiormente consapevoli del loro impiego.

Le autorità di regolamentazione stanno inoltre ampliando il loro raggio d'azione oltre le tradizionali norme sulla privacy. L' AI Act dell'UE impone ai fornitori di informare il pubblico se un contenuto è stato creato o modificato utilizzando tecnologie di intelligenza artificiale, come i deepfake. Lo scopo di questo requisito è garantire la trasparenza sui media sintetici, anziché vietare completamente l'uso di questo tipo di tecnologia.

Ma Meta non è l'unica azienda ad affrontare questo problema. Solo pochi mesi fa, OpenAI è stata costretta a rimuovere un'opzione di disattivazione simile dal suo modello video Sora a causa delle critiche ricevute in merito all'utilizzo di immagini disponibili pubblicamente.

Gli interventi confermano che gli sviluppatori di tecnologie di intelligenza artificiale si trovano ad affrontare sfide più ardue a causa dell'attenzione che le autorità di regolamentazione e i creatori dedicano a garantire che il consenso sia dato in modo inequivocabile prima di manipolare l'immagine di chiunque.

Il dibattito sulla questione si è già spostato sul piano legislativo. La California ha approvato due leggi, la AB 2602 e la AB 1836, che richiedono un'autorizzazione prima dell'utilizzo commerciale di un'immagine generata dall'intelligenza artificiale di un artista, vivente o defunto.

Sebbene le leggi riguardino più gli accordi nel settore dell'intrattenimento che l'applicabilità dell'IA in ambito consumeristico, indicano comunque una tendenza a considerare le immagini generate dall'IA come elementi che necessitano di autorizzazione, anziché presumere che possano essere utilizzate da chiunque.

Gli investitori sembrano non essere influenzati da tutto questo clamore. Come riportato in precedenza da Cryptopolitan, le azioni Meta hanno chiuso a 615,58 dollari il giorno del lancio (7 luglio), con un aumento del 2,55% rispetto al giorno precedente e il valore di chiusura più alto in un mese.

Resta comunque da chiarire se la pubblicazione di contenuti consenta agli utenti di sfruttarli per lo sviluppo dell'intelligenza artificiale. Infatti, se le recenti decisioni di Meta riflettono una tendenza più ampia nel mercato dell'IA, la semplice pubblicazione di un contenuto non autorizza automaticamente altri a utilizzarlo nell'ambito dell'IA. Allo stesso tempo, sta diventando evidente che il consenso giocherà un ruolo fondamentale nello sviluppo di nuovi prodotti di IA per i consumatori, in quanto sempre più spesso richiesto sia dall'industria che dalle organizzazioni pubbliche.