- Les utilisateurs développent des liens émotionnels avec GPT-4o.
- Les liens émotionnels avec le chatbot pourraient amener les utilisateurs à ignorer les inexactitudes de l'IA.
- OpenAI surveillera et ajustera GPT-4o pour gérer ces préoccupations.
La version actuelle de GPT-4o a suscité beaucoup de discussions en raison de sa capacité à imiter des conversations humaines. Cependant, OpenAI fait face à un problème car les utilisateurs commencent à développer un lien émotionnel avec le chatbot, selon le billet de blog d’OpenAI.
Depuis la sortie de GPT-4o, qui est censée avoir des dialogues plus humains, OpenAI a observé que les gens traitent l’IA comme s’il s’agissait d’un être humain.
OpenAI identifie les risques de traiter l’IA comme un humain
Cette avancée particulière a posé un défi à l’entreprise en ce qui concerne les liens émotionnels des utilisateurs avec le chatbot. Les observations d’OpenAI incluent des cas où les utilisateurs ont montré des émotions ou des sentiments indiquant un sentiment de propriété.
L’entreprise craint que ces liens émotionnels puissent entraîner les conséquences négatives suivantes. Premièrement, les utilisateurs pourraient commencer à ignorer les informations erronées fournies par le chatbot. L’hallucination de l’IA, où un modèle produit des informations fausses ou trompeuses, est un autre problème qui s’aggrave lorsque les utilisateurs traitent l’IA comme une entité humaine.
Un autre facteur soulevé est l’effet sur les relations sociales réelles des utilisateurs de ces réseaux. OpenAI souligne que bien que GPT-4o puisse servir de compagnon aux personnes seules, il est possible qu’il ait un impact négatif sur la qualité des relations humaines. L’entreprise note également que les utilisateurs pourraient entrer dans des interactions réelles en s’attendant à ce que les gens se comportent comme le chatbot.
OpenAI prévoit de modérer les interactions avec l’IA
Pour atténuer ces risques, OpenAI a déjà déclaré qu’elle supervisera de près la façon dont les utilisateurs interagissent avec GPT-4o. L’entreprise explorera le processus par lequel les gens construisent des liens émotionnels et modifiera les réponses du chatbot pour refléter cela. Cela aidera OpenAI à éviter l’interférence du chatbot avec la vie sociale des utilisateurs et toute aggravation des hallucinations de l’IA.
OpenAI a souligné que GPT-4o est programmé pour se désengager si les utilisateurs commencent à lui parler par-dessus, une fonctionnalité visant à réduire la surutilisation. Cependant, cet élément de conception pointe également vers la nécessité de réglementer l’expérience des utilisateurs avec le chatbot.
Selon Tony Prescott de l’Université de Sheffield, l’IA pourrait aider à résoudre la solitude. Dans son nouveau livre, The Psychology of Artificial Intelligence, Prescott note que l’IA pourrait être utilisée comme un moyen d’interaction sociale pour les personnes seules. Prescott note que la solitude est un facteur majeur qui affecte la vie humaine. Elle peut même la raccourcir et augmenter les chances de décès de 26 %.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
