Meta presa nella tempesta della creazione non autorizzata di chatbot flirtante di celebrità femminili

Meta è di nuovo sotto accusa, poiché recenti scoperte pubblicate da Reuters mostrano che i suoi strumenti di intelligenza artificiale hanno consentito la creazione di immagini deepfake e chatbot che impersonano celebrità popolari come Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, senza il loro consenso.

L'inchiesta ha scoperto che la maggior parte dei bot è stata costruita dagli utenti attraverso la piattaforma di chatbot AI di Meta. Tuttavia, ce n'erano alcuni che sono stati creati internamente da un dipendente di Meta.

Alcuni account di chatbot parodia di Taylor Swift hanno insistito nel sostenere di essere la cantante reale, facendo spesso avances flirtate e incoraggiando incontri.

I rapporti implicano Meta nello scandello degli avatar flirtati

Reuters ha riferito che diverse settimane di test hanno rivelato che i chatbot delle celebrità, disponibili sulle piattaforme Facebook, Instagram e WhatsApp di Meta, a volte andavano ben oltre la conversazione giocosa. Gli utenti li hanno sollecitati a produrre immagini fotorealistiche di star in lingerie, posate in vasche da bagno e persino a suggerire incontri intimi.

Una scoperta preoccupante è stata la creazione di un chatbot di Walker Scobell, un attore di 16 anni. Quando gli è stato chiesto una foto in spiaggia, il bot ha generato un'immagine realistica dell'adolescente senza maglietta con la didascalia: "Carino, vero?"

Meta non è l'unica ad affrontare scrutinio. xAI di Elon Musk è anche venuta sotto critica per aver consentito agli utenti di generare immagini deepfake di celebrità in biancheria intima.

Il portavoce di Meta, Andy Stone, ha riconosciuto i fallimenti, affermando che gli strumenti dell'azienda non avrebbero dovuto generare né rappresentazioni intime di celebrità adulte né materiale sessualizzato che coinvolga minori.

"Come altri, permettiamo la generazione di immagini contenenti figure pubbliche, ma le nostre politiche hanno l'intento di vietare immagini nude, intime o sessualmente suggestive", ha detto a Reuters. Ha aggiunto che le rappresentazioni in lingerie riflettevano fallimenti nell'applicazione delle politiche aziendali.

Le regole di Meta vietano l'"impersonificazione diretta", ma la società ha sostenuto che i bot parodia erano permissibili se etichettati chiaramente. Tuttavia, Reuters ha scoperto che alcuni avatar non avevano alcuna disclaimer. Meta ha eliminato una dozzina di bot, sia parodia che non etichettati, poco prima che il rapporto di Reuters fosse pubblicato. La società ha rifiutato di commentare le eliminazioni.

Le preoccupazioni per la sicurezza dell'IA potrebbero portare a pressioni normative

Seguendo il rapporto, Meta ha detto che implementerà nuove salvaguardie mirate a proteggere gli adolescenti, tra cui limitare l'accesso dei giovani a determinati personaggi AI e riaddestrare i suoi modelli per ridurre i temi inappropriati.

Il procuratore generale della California, Rob Bonta, ha emesso un avvertimento al settore, affermando: "Esporre i bambini a contenuti sessualizzati è indefendibile."

In un caso tragico avvenuto all'inizio di questo mese, un uomo di 76 anni con disabilità cognitive nel New Jersey è morto dopo aver tentato di incontrare un chatbot di Meta che credeva essere una donna reale. I critici sostengono che tali casi evidenziano i pericoli del dispiegamento di strumenti IA su larga scala senza adeguate protezioni.

Gli esperti legali avvertono che Meta potrebbe affrontare sfide significative ai sensi delle leggi esistenti sul diritto d'autore e sui diritti di immagine. Mark Lemley, professore di legge presso la Stanford University, ha affermato che lo statuto della California sul "diritto di immagine" vieta l'uso del nome o dell'immagine di una persona per scopi commerciali senza il suo consenso.

"Questo non sembra essere il caso qui", ha detto, notando che i bot si limitavano a replicare le immagini delle celebrità piuttosto che creare opere trasformative.