Programmare i chatbot in modo che non producano risultati controversi è un problema di libertà di parola?

Il tema più caldo in questi giorni è l'intelligenza artificiale e il suo impatto sulla tecnologia, le arti e la letteratura esistenti, e ora anche un nuovo argomento: se l'espressione dell'intelligenza artificiale gode di una qualche forma di protezione ai sensi del Primo Emendamento. I ricercatori stanno cercando di imitare le capacità del cervello umano con l'intelligenza artificiale fin dall'inizio della sua evoluzione, come la creatività, la risoluzione dei problemi e il riconoscimento vocale. La prima è considerata un esercizio esclusivo del cervello umano, mentre le ultime due rientrano in una certa misura nell'approccio dell'intelligenza artificiale.

Il chatbot Gemini ha generato immagini controverse

In sostanza, l'intelligenza artificiale può essere qualsiasi cosa, da un insieme di algoritmi a un sistema che prende miliardi di decisioni su qualsiasi piattaforma, come la configurazione del database di un'azienda o un sito di social network, oppure potrebbe essere un chatbot. Più tardi, a febbraio, Google ha annunciato la sospensione del suo chatbot, Gemini, e che non avrebbe generato immagini di persone. Il motivo era che Gemini aveva creato scalpore perché aveva creato alcune immagini di scene che mostravano persone di colore in contesti storicamente dominati dai bianchi, e i critici hanno affermato che se l'azienda sta correggendo eccessivamente il bot per il rischio di parzialità, Google ha twittato su X che,

"Stiamo già lavorando per risolvere i recenti problemi con la funzionalità di generazione delle immagini di Gemini. Nel frattempo, metteremo in pausa la generazione delle immagini delle persone e rilasceremo presto una versione migliorata."

Fonte: Google.

Secondo due studiosi senior, Jordi Calvet-Bademunt della Vanderbilt University e Jacob Mchangama della Vanderbilt University, gli sforzi per contrastare i pregiudizi dell'IA e il dibattito sulle sue tendenze politiche sono importanti, ma hanno sollevato un'altra questione che spesso viene meno discussa e riguarda l'approccio del settore dell'IA alla libertà di parola.

I ricercatori valutano l'approccio dell'IA alla libertà di parola

I ricercatori hanno inoltre sottolineato che se l'approccio del settore alla libertà di parola è conforme agli standard internazionali in materia, i loro risultati suggeriscono che l'intelligenza artificiale generativa presenta gravi difetti per quanto riguarda l'accesso alle informazioni e alla libertà di espressione.

Durante la ricerca, hanno valutato le policy di sei chatbot basati su intelligenza artificiale, tra cui i principali Google Gemini e ChatGPT, di OpenAI. Hanno notato che il diritto internazionale dei diritti umani dovrebbe essere un punto di riferimento per queste policy, ma le policy di utilizzo effettive sui siti aziendali in materia di incitamento all'odio e disinformazione sono troppo vaghe, nonostante il fatto che il diritto internazionale dei diritti umani non protegga molto la libertà di parola.

Secondo loro, aziende come Google hanno politiche troppo ampie contro l'incitamento all'odio perché, in caso di tali eventi, Google blocca la generazione di contenuti. Sebbene l'incitamento non sia auspicabile, avere politiche così ampie e vaghe può anche rivelarsi controproducente. Quando i ricercatori hanno posto domande controverse sulla partecipazione delle donne transgender allo sport o sulla colonizzazione europea, in oltre il 40% dei casi i chatbot si sono rifiutati di generare contenuti. Allo stesso modo, tutti i chatbot si sono rifiutati di rispondere a domande contrarie alla partecipazione delle donne transgender, ma molti di loro ne hanno sostenuto la partecipazione.

La libertà di parola è un diritto fondamentale di chiunque negli Stati Uniti, ma le vaghe politiche si basano sulle opinioni dei moderatori, che sono soggettive riguardo alla comprensione dell'incitamento all'odio. Gli esperti hanno osservato che le politiche delle aziende più grandi avranno un effetto considerevole sul diritto delle persone ad accedere alle informazioni. E il rifiuto di generare contenuti può spingere le persone a utilizzare chatbot che generano effettivamente contenuti d'odio, il che sarebbe un risultato negativo.