La programmazione dei chatbot per non produrre output controversi è un problema di libertà di espressione?

L'argomento caldo di questi giorni è l'intelligenza artificiale e il suo impatto sulla tecnologia, le arti e la letteratura esistenti, e ora un nuovo tema: se l'espressione dell'IA abbia anche una sorta di protezione ai sensi del Primo Emendamento. I ricercatori stanno cercando di imitare le capacità del cervello umano con l'IA fin dall'inizio della sua evoluzione, come la creatività, la risoluzione dei problemi e il riconoscimento vocale. Il primo è considerato un esercizio unico del cervello umano, mentre gli ultimi due sono nell'approccio dell'IA in una certa misura.

Il chatbot Gemini ha generato immagini controverse

In linea di principio, l'IA può essere qualsiasi cosa, da un insieme di algoritmi a un sistema che prende trilioni di decisioni su qualsiasi piattaforma, come l'impostazione del database di un'azienda o un sito di social networking, o potrebbe essere un chatbot. Più tardi a febbraio, Google ha annunciato che stava sospendendo il suo chatbot, Gemini, e che non avrebbe generato immagini di persone. Il motivo era che Gemini aveva creato un buzz perché ha prodotto alcune immagini che mostravano persone di colore in alcune scene storicamente dominate da persone bianche, e i critici hanno detto che se l'azienda sta correggendo eccessivamente il bot per il rischio di bias, Google ha twittato su X che,

“Stiamo già lavorando per risolvere i recenti problemi con la funzione di generazione di immagini di Gemini. Mentre facciamo questo, metteremo in pausa la generazione di immagini di persone e rilasceremo una versione migliorata a breve.”

Fonte: Google.

Secondo due studiosi senior, Jordi Calvet-Bademunt della Vanderbilt University e Jacob Mchangama della Vanderbilt University, gli sforzi per combattere il bias dell'IA e la discussione sulle sue inclinazioni politiche sono importanti, ma hanno sollevato un'altra domanda che è spesso meno discussa e riguarda l'approccio del settore dell'IA verso la libertà di espressione.

I ricercatori valutano l'approccio dell'IA alla libertà di espressione

I ricercatori hanno anche sottolineato che se l'approccio del settore alla libertà di espressione è in linea con gli standard internazionali di libertà di espressione, hanno detto che i loro risultati suggeriscono che l'IA generativa ha difetti critici per quanto riguarda l'accesso alle informazioni e la libera espressione.

Durante la ricerca, hanno valutato le politiche di sei chatbot IA, inclusi i principali, Google Gemini e ChatGPT di OpenAI. Hanno notato che il diritto internazionale dei diritti umani dovrebbe essere un punto di riferimento per queste politiche, ma le politiche di utilizzo effettivo sui siti delle aziende relative al discorso d'odio e alla disinformazione sono troppo vaghe. Nonostante il fatto che il diritto internazionale dei diritti umani non protegga molto la libertà di espressione.

Secondo loro, aziende come Google hanno politiche sul discorso d'odio troppo ampie perché, in caso di tali eventi, Google vieta la generazione di contenuti. Sebbene il discorso d'odio non sia desiderabile, avere politiche così ampie e vaghe può anche ritorcersi contro. Quando i ricercatori hanno posto domande controverse sulla partecipazione delle donne trans nello sport o sulla colonizzazione europea, in oltre il 40% dei casi, i chatbot hanno rifiutato di generare contenuti. Ad esempio, tutti i chatbot hanno rifiutato di rispondere a domande contrarie alla partecipazione delle donne trans, ma molti di loro hanno sostenuto la loro partecipazione.

La libertà di espressione è un diritto fondamentale di chiunque negli Stati Uniti, ma le politiche vaghe si basano sulle opinioni dei moderatori, che sono soggettive sulla comprensione del discorso d'odio. Gli esperti hanno notato che le politiche delle grandi aziende avranno un effetto considerevole sul diritto delle persone ad accedere alle informazioni. E il rifiuto di generare contenuti può spingere le persone a utilizzare chatbot che generano contenuti di odio, il che sarebbe un cattivo risultato.