- Gli utenti stanno formando connessioni emotive con GPT-4o.
- I legami emotivi con il chatbot potrebbero portare gli utenti a ignorare le imprecisioni dell'IA.
- OpenAI monitorerà e regolerà GPT-4o per gestire queste preoccupazioni.
L'attuale rilascio di GPT-4o ha creato molta discussione per la sua capacità di imitare conversazioni simili a quelle umane. Tuttavia, OpenAI sta ora affrontando un problema perché gli utenti stanno iniziando a sviluppare un legame emotivo con il chatbot, secondo il post sul blog di OpenAI.
Dopo il rilascio di GPT-4o, che si dice abbia dialoghi più simili a quelli umani, OpenAI ha osservato che le persone trattano l'IA come se fosse umana.
OpenAI identifica i rischi di trattare l'IA come umana
Questo particolare avanzamento ha posto una sfida per l'azienda per quanto riguarda le connessioni emotive degli utenti con il chatbot. Le osservazioni di OpenAI includono istanze in cui gli utenti hanno mostrato emozioni o sentimenti che indicano un senso di proprietà.
L'azienda teme che tali connessioni emotive possano portare alle seguenti conseguenze negative. In primo luogo, gli utenti potrebbero iniziare a ignorare le informazioni errate fornite dal chatbot. L'allucinazione dell'IA, in cui un modello produce informazioni errate o ingannevoli, è un altro problema che peggiora quando gli utenti trattano l'IA come un'entità simile a un essere umano.
Un altro fattore sollevato è l'effetto sulle relazioni sociali nella vita reale degli utenti di queste reti. OpenAI sottolinea che, sebbene GPT-4o possa servire come compagno per le persone sole, c'è la possibilità che impatti negativamente sulla qualità delle relazioni umane. L'azienda nota anche che gli utenti potrebbero entrare nelle interazioni nella vita reale aspettandosi che le persone si comportino come il chatbot.
OpenAI prevede di moderare le interazioni con l'IA
Per mitigare questi rischi, OpenAI ha già dichiarato che supervisionerà da vicino come gli utenti interagiscono con GPT-4o. L'azienda esplorerà il processo attraverso il quale le persone costruiscono legami emotivi e modificherà le risposte del chatbot per rifletterlo. Questo aiuterà OpenAI a evitare l'interferenza del chatbot nelle vite sociali degli utenti e qualsiasi peggioramento delle allucinazioni dell'IA.
OpenAI ha sottolineato che GPT-4o è programmato per disimpegnarsi se gli utenti iniziano a parlare sopra di esso, una funzione volta a ridurre l'uso eccessivo. Tuttavia, questo elemento di design indica anche la necessità di regolare l'esperienza degli utenti con il chatbot.
Secondo Tony Prescott dell'Università di Sheffield, l'IA potrebbe aiutare a risolvere la solitudine. Nel suo nuovo libro, The Psychology of Artificial Intelligence, Prescott nota che l'IA potrebbe essere utilizzata come modo di interazione sociale per le persone sole. Prescott nota che la solitudine è un fattore importante che influisce sulla vita umana. Può persino accorciarla e aumentare le probabilità di morire del 26%.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
