OpenAI解决与GPT-4o的情感纽带问题

由于 GPT-4o 的最新版本因其模仿人类对话的能力而引发了大量讨论。然而，根据 OpenAI 的博客文章，OpenAI 现在正面临一个问题，因为用户开始与聊天机器人建立情感联系。.

自 GPT-4o 发布以来，据称它具有更人性化的对话，OpenAI 观察到人们将人工智能视为人类。 

OpenAI 识别出将人工智能视为人类的潜在风险

就用户与聊天机器人的情感联系而言，这一特定进展给公司带来了挑战。OpenAI 的观察包括用户表现出情感或情绪的情况，这些情感或情绪表明了一种所有权感。 

公司担心这种情感联系可能导致以下负面后果。首先，用户可能会开始忽略聊天机器人提供的错误信息。AI 幻觉，即模型产生错误或欺骗性信息，是另一个问题，当用户将 AI 视为类人实体时，这个问题会加剧。 

提出的另一个因素是这些网络用户与现实社会关系的影响。OpenAI 指出，虽然 GPT-4o 可以作为孤独者的伴侣，但它可能会对人际关系的质量产生负面影响。该公司还指出，用户可能会进入现实生活中的互动，期望人们像聊天机器人一样表现。 

OpenAI 计划规范 AI 互动

为了减轻这些风险，OpenAI 已经表示它将密切监督用户如何与 GPT-4o 互动。公司将探索人们建立情感联系的过程，并将修改聊天机器人的响应以反映这一点。这将帮助 OpenAI 避免聊天机器人干扰用户的社会生活以及任何加剧 AI 幻觉的情况。

OpenAI 指出，GPT-4o 被编程为如果用户开始打断它，它将断开连接，这一功能旨在减少过度使用。然而，这一设计元素也表明需要规范用户对聊天机器人的体验。 

据谢菲尔德大学的 Tony Prescott 称，人工智能可能有助于解决孤独问题。在他的新书《人工智能心理学》中，Prescott指出人工智能可以被用作孤独人群的一种社交互动方式。Prescott 指出，孤独是影响人类生活的主要因素。它甚至可能缩短寿命，并将死亡几率提高 26%。