OpenAI affronta i legami emozionali con GPT-4o

L'attuale versione di GPT-4o ha suscitato molte discussioni per la sua capacità di imitare conversazioni simili a quelle umane. Tuttavia, OpenAI sta riscontrando un problema perché gli utenti stanno iniziando a sviluppare un legame emotivo con il chatbot, secondo il post sul blog di OpenAI.

Sin dal rilascio di GPT-4o, che si dice abbia dialoghi più simili a quelli umani, OpenAI ha osservato che le persone trattano l'IA come se fosse umana. 

OpenAIdenti rischi del trattamento dell'IA come se fosse umana

Questo particolare progresso ha posto una sfida all'azienda per quanto riguarda il legame emotivo degli utenti con il chatbot. Le osservazioni di OpenAI riguardano casi in cui gli utenti hanno mostrato emozioni o sentimenti che indicavano un senso di appartenenza. 

L'azienda teme che tali connessioni emotive possano avere le seguenti conseguenze negative. In primo luogo, gli utenti potrebbero iniziare a ignorare le informazioni errate fornite dal chatbot. L'allucinazione dell'IA, in cui un modello produce informazioni errate o ingannevoli, è un altro problema che peggiora quando gli utenti trattano l'IA come un'entità simile a quella umana. 

Un altro fattore sollevato è l'effetto sulle relazioni sociali reali degli utenti di queste reti. OpenAI sottolinea che, sebbene GPT-4o possa fungere da compagno per le persone sole, esiste la possibilità che abbia un impatto negativo sulla qualità delle relazioni umane. L'azienda osserva inoltre che gli utenti potrebbero interagire nella vita reale aspettandosi che le persone si comportino come il chatbot. 

OpenAI prevede di moderare le interazioni dell'IA

Per mitigare questi rischi, OpenAI ha già dichiarato che monitorerà attentamente il modo in cui gli utenti interagiscono con GPT-4o. L'azienda esplorerà il processo attraverso il quale le persone costruiscono legami emotivi e modificherà le risposte del chatbot per riflettere tale processo. Ciò aiuterà OpenAI a evitare l'interferenza del chatbot con la vita sociale degli utenti e qualsiasi peggioramento delle allucinazioni dell'IA.

OpenAI ha sottolineato che GPT-4o è programmato per disattivarsi se gli utenti iniziano a parlare sopra di esso, una funzionalità volta a ridurne l'uso eccessivo. Tuttavia, questo elemento di design evidenzia anche la necessità di regolamentare l'esperienza utente del chatbot. 

Secondo Tony Prescott dell'Università di Sheffield, l'intelligenza artificiale potrebbe aiutare a combattere la solitudine. Nel suo nuovo libro, "The Psychology of Artificial Intelligence", Prescott osserva che l'intelligenza artificiale potrebbe essere utilizzata come strumento di interazione sociale per le persone sole. Prescott osserva che la solitudine è un fattore importante che influenza la vita umana. Può persino accorciarla e aumentare le probabilità di morte del 26%.