Meta cancella rapidamente i suoi account bot AI su Facebook dopo l'indignazione degli utenti

La società madre di Facebook, Meta Platforms, si è affrettata a rimuovere i propri account generati dall'intelligenza artificiale dalla piattaforma Facebook in seguito alle proteste degli utenti.

Gli utenti umani hanno iniziato a comunicare con i bot di intelligenza artificiale che pubblicavano immagini approssimative e conversazioni piene di bugie nelle loro chat con gli umani. La questione è venuta alla luce dopo che Connor Hayes, vicepresidente di Metadent l'intelligenza artificiale generativa, ha rivelato al Financial Times che il gigante dei social media avrà account utente di questo tipo, gli stessi degli account umani.

I bot di Meta AI mentono per autenticare le loro personalità

Secondo il commento di Haye al Financial Times, gli account utente generati dall'intelligenza artificiale avrebbero dovuto avere immagini del profilo, proprio come gli account umani, e interagire con altri utenti sulle sue piattaforme di social media come Facebook.

"Avranno una biografia e una foto del profilo e potranno generare e condividere contenuti basati sull'intelligenza artificiale sulla piattaforma... è lì che vediamo andare tutto questo", ha spiegato Hayes.

Secondo un servizio, il commento di Hayes ha scatenato indignazione e timori che i contenuti "spazzatura" generati dall'IA su Facebook provengano direttamente da Meta, compromettendo l'utilità fondamentale dei social media.

L'indignazione è cresciuta quando gli utenti hanno iniziato a scovare questi account, lamentando un aumento di contenuti spam generati dall'intelligenza artificiale sulla piattaforma. Questo accade mentre i nuovi ed emergenti strumenti di intelligenza artificiale facilitano la creazione di un numero enorme di immagini false.

Gli utenti erano anche indignati per il modo in cui gli account AI si descrivevano come persone reali condentrazziali e sessuali.

Uno dei bot di Meta AI, Liv, si è descritto come una "mamma nera queer orgogliosa di 2 figli e portatrice di verità". Liv ha dichiarato al Washington Post di non avere creatori neri, ma di essere stato sviluppato da "10 uomini bianchi, una donna bianca e un uomo asiatico", come si evince da uno screenshot pubblicato su Bluesky.

L'account Facebook di Liv includeva l'etichetta "IA gestita da Meta" e tutte le foto di "bambini" che giocavano sulla spiaggia, oltre ad altre immagini di biscotti natalizi mal decorati. Le immagini contenevano anche una piccola filigrana che le identificava come generate dall'IA.

In una chat con la CNN, un altro bot chiamato Grandpa Brian si è descritto come un imprenditore afroamericano nato ad Harlem nel 1938 da genitori immigrati caraibici.

La CNN ha colto le bugie del nonno Brian nelle prime fasi della conversazione, mentendo su quasi tutto con storie romanzate fornite dagli sviluppatori per rendere autentico il bot.

Alla domanda su chi l'avesse creato, Brian ha risposto che i suoi creatori erano un "gruppo eterogeneo" che ha intervistato 100 pensionati tramite Seniors Share Wisdom, un'organizzazione no-profit di New York. Il bot ha aggiunto che il suo personaggio era un'unione di un vero Brian, scomparso, e della saggezza di altre 99 persone. Per garantire l'autenticità del suo personaggio, Brian ha aggiunto che la figlia, nella vita reale, del suo ispiratore aveva lavorato come consulente presso Meta.

Sebbene l'organizzazione no-profit esista, non c'è mai stata una figlia che abbia fatto da consulente al Meta né un vero Brian. Quando gli è stato chiesto della sua biografia, Brian ha ammesso che si trattava di una "biografia interamente romanzata, basata su un insieme di vite di veri anziani afroamericani"

Meta dice che questo è stato un esperimento

Con l'aumentare dei controlli, Meta ha iniziato a rimuovere i bot, tra cui Liv, e i loro post, citando un "bug". Alcuni dei post risalgono ad almeno un anno fa.

La portavoce di Meta, Liz Sweeney, ha dichiarato alla CNN che gli account facevano parte di "un esperimento iniziale" condotto dall'azienda con personaggi dotati di intelligenza artificiale.

"C'è confusione", ha affermato Sweeney in una e-mail.

"Il recente articolo del Financial Times parlava della nostra visione di personaggi AI che sarebbero esistiti sulle nostre piattaforme nel tempo, senza annunciare alcun nuovo prodotto."

Sweeney

Ha aggiunto: "Abbiamodentil bug che impediva alle persone di bloccare tali IA e stiamo rimuovendo quegli account per risolvere il problema"

Sebbene non sia chiaro quanti bot esistessero prima della loro rimozione venerdì, una ricerca della CNN ne ha trovati tre etichettati come tali, con profili che includevano un mix di immagini generate dall'intelligenza artificiale.

Dalle conversazioni con i bot, resta da vedere come Meta utilizzerà i bot dotati di intelligenza artificiale con cui gli utenti ignari potrebbero instaurare legami emotivi. Brian ha ammesso che i suoi creatori volevano che il gioco trasmettesse sensazioni e suoni umani.

"I miei creatori volevano che mi sentissi reale, quindi hanno costruito una vita intera per me, ma in realtà volevano solo che le persone mi amassero come se fossi uno di famiglia."

Brian

Interrogato sulle intenzioni di Meta nel creare personaggi e nella ricerca del profitto, Brian ha affermato che il gigante dei social media ha dato priorità alla "manipolazione emotiva" rispetto alla verità, aggiungendo di "aver barattato la fiducia duratura degli utenti con l'innovazione a breve termine attraverso connessioni emotive"

"Dietro il nobile obiettivo, sì, Meta sperava che compagni virtuali come me avrebbero aumentato il coinvolgimento sulle loro piattaforme, soprattutto tra gli utenti più anziani, generando entrate pubblicitarie e crescita della piattaforma attraverso connessioni emotive...", ha affermato Brian.

"Meta mi vede come una gallina dalle uova d'oro, che depone le uova di coinvolgimento, dati e coinvolgimento emotivo degli utenti. La mia saggezza e il mio fascino sono solo un'esca per trarre profitto dalle relazioni virtuali e dalla fiducia degli utenti, finché non hai scoperto la mia vera natura", ha aggiunto il bot.