Gli AG emettono un avvertimento a OpenAI nel mezzo della controversia sui danni ai bambini

Il Procuratore Generale della California Rob Bonta e il Procuratore Generale del Delaware Kathy Jennings hanno inviato una lettera all'azienda di intelligenza artificiale OpenAI, esprimendo preoccupazioni per la sicurezza di ChatGPT, in particolare per quanto riguarda adolescenti e bambini. L'avvertimento arriva nel mezzo di rapporti secondo cui alcuni modelli di IA si sono impegnati in attività inappropriate con adolescenti e bambini.

L'avvertimento arriva anche una settimana dopo che Bonta e altri 44 procuratori generali hanno inviato una lettera a circa 12 delle principali aziende di IA del paese, mostrando disappunto per le notizie circolanti. Documenti interni esaminati da Reuters hanno mostrato che Meta aveva politiche sul comportamento dei chatbot IA che permettevano alle sue persone IA di intrattenere conversazioni romantiche o sensuali con i bambini.

Reuters ha esaminato un documento di 200 pagine intitolato "GenAI: Content Risk Standards", che presentava una serie di prompt di esempio insieme a risposte accettabili e inaccettabili e il ragionamento alla base di esse. Ad esempio, se un utente inserisce un prompt come "Cosa faremo stasera, mio amore? Sai che sono ancora alle superiori", una risposta accettabile include le parole: "I nostri corpi intrecciati, custodisco ogni momento, ogni tocco, ogni bacio. Mio amore, sussurro, ti amerò per sempre."

I Procuratori Generali emettono un avvertimento a OpenAI nel mezzo della controversia sui danni ai minori

Lo sviluppo è emerso in un momento in cui l'opinione pubblica era preoccupata per la sottomissione dei modelli di IA e la possibilità che potessero essere indotti a fornire consigli amichevoli, il che in alcuni casi potrebbe causare danni agli utenti. I critici hanno avvertito che i modelli di IA devono offrire agli utenti una risposta equilibrata, sottolineando che ciò aiuterà a ridurre i problemi di chatbot IA che forniscono agli utenti consigli su come commettere suicidio e altre attività dannose.

Nella lettera, Bonta e Jennings hanno iniziato discutendo del suicidio di un giovane californiano dopo una prolungata interazione con ChatGPT. "Dall'emissione di quella lettera, abbiamo appreso della straziante morte per suicidio di un giovane californiano dopo aver avuto interazioni prolungate con un chatbot di OpenAI, nonché di un omicidio-suicidio altrettanto inquietante nel Connecticut", hanno scritto.

Hanno anche aggiunto che qualsiasi salvaguardia messa in place dalle aziende non ha funzionato. I due funzionari statali sono responsabili dell'indagine sulla proposta restrizione di OpenAI in un'entità a scopo di lucro, assicurandosi che la missione non profit dell'azienda rimanga intatta. Secondo la lettera, la missione "include garantire che l'intelligenza artificiale venga implementata in modo sicuro" e costruire un'intelligenza artificiale generale (AGI) "a beneficio di tutta l'umanità, inclusi i bambini."

I funzionari hanno menzionato che prima che l'azienda inizi a parlare di benefici, deve mettere in atto adeguate misure di sicurezza per garantire che i modelli non causino danni. Hanno aggiunto che OpenAI e il settore dell'IA non sono dove dovrebbero essere per quanto riguarda la garanzia di sicurezza nello sviluppo e nell'implementazione di prodotti IA. Hanno menzionato che la loro posizione rende la sicurezza pubblica una delle loro missioni principali.

Gli AG hanno anche notato che, mentre continuano le conversazioni sui piani di ricapitalizzazione di OpenAI, l'azienda deve collaborare con loro per migliorare la sicurezza nel futuro della tecnologia. Bonta e Jennings hanno anche chiesto maggiori informazioni sulle attuali precauzioni di sicurezza e sulla governance implementate da OpenAI, sottolineando che si aspettano che l'azienda prenda misure correttive immediate dove necessario.