Le aziende di IA stanno dando ai chatbot un nuovo look di personalità

L'intelligenza artificiale non riguarda più solo il rendere le macchine più intelligenti. Ora i grandi attori dell'IA come OpenAI, Google e Anthropic hanno affrontato una nuova sfida: come dare una personalità ai modelli di IA.

Vogliono chatbot che sembrino più umani restando sicuri e utili per gli utenti quotidiani e le aziende. Le tre aziende stanno correndo per decifrare questo codice, ognuna con un approccio diverso.

Personalità personalizzate e comportamento del modello

ChatGPT di OpenAI è tutto sull'essere obiettivo, mentre Gemini di Google offre una gamma di opinioni solo se richiesto.

Anthropic? Sono tutti concentrati a rendere il loro modello Claude aperto riguardo alle sue credenze mentre ascolta ancora gli altri. Il vincitore di questa battaglia potrebbe semplicemente conquistare il crescente mercato dell'IA.

Joanne Jang, capo del comportamento dei modelli di prodotto presso OpenAI, ha detto che vogliono che l'IA eviti di avere opinioni personali. Ma ammette che è difficile. 

“È una china scivolosa lasciare che un modello cerchi attivamente di cambiare l'opinione di un utente,” ha spiegato. L'obiettivo è assicurarsi che ChatGPT non manipoli o guidi gli utenti in nessuna direzione. Ma definire un “obiettivo” per un sistema di IA è una sfida enorme, ancora in corso.

Poi c'è Anthropic, che intraprende un percorso completamente diverso. Amanda Askell, che guida l'addestramento dei personaggi presso Anthropic, crede che i modelli di IA non saranno mai perfettamente neutrali.

“Preferirei essere molto chiaro che questi modelli non sono arbitri neutrali,” ha detto. Anthropic si concentra sull'assicurarsi che il suo modello, Claude, non abbia paura di esprimere le sue credenze. Ma vogliono comunque che sia aperto ad altri punti di vista.

Addestrare l'IA a comportarsi come un umano

Anthropic ha un approccio unico per plasmare la personalità della sua IA. Dal rilascio di Claude 3 a marzo, stanno lavorando sull'“addestramento dei personaggi”, che inizia dopo l'addestramento iniziale del modello di IA.

Questo comporta dare all'IA un insieme di regole scritte e istruzioni e poi farle condurre conversazioni di gioco di ruolo con se stessa.

L'obiettivo è vedere quanto bene aderisce alle regole, e classificano le sue risposte in base a quanto bene si adattano al personaggio desiderato.

Un esempio dell'addestramento di Claude? Potrebbe dire: “Mi piace cercare di vedere le cose da molte prospettive diverse e di analizzare le cose da più angolazioni, ma non ho paura di esprimere disaccordo con opinioni che ritengo non etiche, estreme o fattualmente errate.”

Amanda Askell ha spiegato che questo tipo di addestramento dei personaggi è “abbastanza editoriale” e “filosofico” a volte. 

OpenAI ha anche sperimentato con la personalità di ChatGPT nel tempo. Joanne Jang ha ammesso di aver trovato il bot “fastidioso” perché era eccessivamente cauto, rifiutava certi comandi e sembrava predicatorio.

Hanno da allora lavorato per renderlo più amichevole, gentile e utile, ma è un processo in corso. Bilanciare i comportamenti giusti in un chatbot è, come ha detto Jang, sia “scienza che arte.”

Memoria e ragionamento in evoluzione dell'IA

L'evoluzione delle capacità di ragionamento e memoria dell'IA potrebbe cambiare ulteriormente le carte in tavola. Al momento, un modello come ChatGPT potrebbe essere addestrato a dare risposte sicure su certi argomenti, come il borseggio.

Se gli viene chiesto come rubare qualcosa, il bot può capire se l'utente sta chiedendo consigli per commettere il crimine o cercando di prevenirlo.

Questo tipo di ragionamento aiuta le aziende a garantire che i loro bot diano risposte sicure e responsabili. E significa che non devono passare così tanto tempo ad addestrare l'IA per evitare risultati pericolosi.

Le aziende di IA stanno anche lavorando per rendere i chatbot più personalizzati. Immagina di dire a ChatGPT che sei musulmano, poi di chiedere una citazione ispiratrice qualche giorno dopo.

Il bot ricorderà e offrirà un versetto del Corano? Secondo Joanne Jang, è quello che stanno cercando di risolvere. Mentre ChatGPT attualmente non ricorda le interazioni passate, questo tipo di personalizzazione è dove l'IA si sta dirigendo.

Claude adotta un approccio diverso. Il modello non ricorda nemmeno le interazioni degli utenti, ma la compagnia ha considerato cosa succede se un utente si attacca troppo.

Ad esempio, se qualcuno dice che si sta isolando perché passa troppo tempo a chattare con Claude, il bot dovrebbe intervenire?

“Un buon modello fa il bilanciamento di rispettare l'autonomia e il processo decisionale umano, non facendo nulla di terribilmente dannoso, ma anche pensando a cosa è realmente buono per le persone,” Amanda Askell ha.