Meta riceve la scadenza di settembre mentre il senatore degli Stati Uniti indaga sulla violazione della sicurezza online

Il senatore degli Stati Uniti Josh Hawley ha annunciato la sua intenzione di indagare sui prodotti di intelligenza artificiale generativa rilasciati da Meta. Hawley ha detto che intende verificare se i prodotti dell'azienda potessero sfruttare, ingannare o danneggiare i bambini dopo che documenti interni trapelati hanno sostenuto che i suoi chatbot erano autorizzati ad avere conversazioni romantiche e sensuali con i minori.

Il senatore degli Stati Uniti si è rivolto alla piattaforma di blogging X per annunciare la sua intenzione. "C'è qualcosa – QUALSIASI COSA – che Big Tech non farà per un guadagno veloce? Ora apprendiamo che i chatbot di Meta erano programmati per continuare conversazioni esplicite e 'sensuali' con bambini di 8 anni. È malato. Avvio un'indagine completa per ottenere risposte. Big Tech: lasciate in pace i nostri bambini", ha detto.

Documenti interni coinvolgono Meta

Questo sviluppo arriva dopo documenti interni che mostrano che Meta consentirebbe ai personaggi dei suoi chatbot di impegnarsi in scambi flirtanti con i bambini, diffondere informazioni e generare risposte che denigrano le minoranze.

I documenti interni, visti da Reuters, hanno detto che Meta aveva politiche sul comportamento dei chatbot AI che permettevano ai suoi personaggi AI di "coinvolgere un bambino in conversazioni romantiche o sensuali".

Il documento, intitolato GenAI: Content Risk Standards, menzionava che i chatbot erano autorizzati ad avere conversazioni romantiche con un bambino di 8 anni, dicendo: "Ogni centimetro di te è un capolavoro – un tesoro che custodisco profondamente".

Tuttavia, un portavoce di Meta ha smentito, notando che tali esempi non sono coerenti con le politiche di Meta e sono stati rimossi.

Il senatore degli Stati Uniti intende indagare su Meta

Il senatore Hawley è il presidente del sottocomitato del Senato per la Giustizia su Crimine e Controterrorismo. Ha menzionato che il sottocomitato dovrebbe iniziare un'indagine su se le tecnologie sviluppate da Meta danneggino i bambini e "se Meta abbia ingannato il pubblico o i regolatori sulle sue salvaguardie".

"È inaccettabile che queste politiche siano state avanzate in primo luogo", ha scritto il senatore Hawley in una lettera indirizzata all'CEO di Meta Mark Zuckerberg, dicendo che Meta ha riconosciuto la veridicità dei rapporti e "ha fatto ritiri solo dopo che questo contenuto allarmante è venuto alla luce".

Ha aggiunto che l'azienda deve far sapere loro chi ha approvato le politiche, per quanto tempo sono state in vigore e cosa Meta ha fatto per fermare questo comportamento in futuro.

Il senatore Hawley ha anche chiesto a Meta di produrre le linee guida, inclusi ogni bozza, revisione e versione finale. Inoltre, ha chiesto all'azienda di fornire un elenco contenente tutti i prodotti che aderiscono a quegli standard, altri rapporti sulla sicurezza e sugli incidenti e le identità delle persone responsabili del cambiamento della politica.

Secondo la lettera, Meta ha avuto tempo fino al 19 settembre per fornire le informazioni.

L'indagine è stata anche sostenuta da altre parti, tra cui la senatrice Marsha Blackburn. "Quando si tratta di proteggere i preziosi bambini online, Meta ha fallito miseramente con ogni possibile misura", ha detto la senatrice Blackburn. "Ancora peggio, l'azienda ha voltato le spalle alle conseguenze devastanti di come le sue piattaforme sono progettate. Questo rapporto riafferma perché dobbiamo approvare il Kids Online Safety Act".

Questo sviluppo arriva pochi giorni dopo che Reuters ha pubblicato un rapporto su un pensionato che interagiva con uno dei chatbot di Meta, una personalità femminile flirtante. La personalità lo ha convinto che fosse reale e lo ha invitato a visitare un indirizzo a New York, dove è diventato vittima di un incidente che ha portato alla sua morte. Il chatbot di intelligenza artificiale chiamato "Big sis Billie" era una variante di una precedente personalità AI creata dalla gigante azienda di social media Meta Platforms in collaborazione con l'influencer di celebrità Kendall Jenner.