- Пользователи формируют эмоциональную связь с GPT-4o.
- Эмоциональная привязанность к чат-боту может привести к тому, что пользователи будут игнорировать неточности ИИ.
- OpenAI будет отслеживать и корректировать работу GPT-4o для решения этих проблем.
Текущая версия GPT-4o вызвала много обсуждений из-за своей способности имитировать человеческие разговоры. Однако, согласно сообщению в блоге OpenAI, компания теперь сталкивается с проблемой, поскольку пользователи начинают развивать эмоциональную привязанность к чат-боту..
С момента выпуска GPT-4o, который, как утверждается, имеет более человеческие диалоги, OpenAI заметила, что люди относятся к ИИ как к человеку.
OpenAI выявляет риски восприятия ИИ как человека
Это конкретное достижение создало вызов для компании в том, что касается эмоциональных связей пользователей с чат-ботом. Наблюдения OpenAI включают случаи, когда пользователи проявляли эмоции или чувства, указывающие на чувство собственности.
Компания опасается, что такие эмоциональные связи могут привести к следующим негативным последствиям. Во-первых, пользователи могут начать игнорировать неверную информацию, предоставляемую чат-ботом. Галлюцинации ИИ, когда модель генерирует неверную или обманчивую информацию, — еще одна проблема, которая усугубляется, когда пользователи относятся к ИИ как к человекоподобному существу.
Еще одним фактором, который был поднят, является влияние на реальные социальные отношения пользователей этих сетей. OpenAI указывает, что, хотя GPT-4o может служить компаньоном для одиноких людей, существует вероятность, что это негативно скажется на качестве человеческих отношений. Компания также отмечает, что пользователи могут вступать в реальные взаимодействия, ожидая, что люди будут вести себя как чат-бот.
OpenAI планирует модерировать взаимодействия с ИИ
Чтобы смягчить эти риски, OpenAI уже заявила, что будет внимательно следить за тем, как пользователи взаимодействуют с GPT-4o. Компания изучит процесс, посредством которого люди строят эмоциональные связи, и изменит ответы чат-бота, чтобы отразить это. Это поможет OpenAI избежать вмешательства чат-бота в социальную жизнь пользователей и ухудшения галлюцинаций ИИ.
OpenAI указала, что GPT-4o запрограммирован на прекращение взаимодействия, если пользователи начинают перебивать его, — функция, направленная на предотвращение чрезмерного использования. Однако этот элемент дизайна также указывает на необходимость регулирования опыта пользователей при общении с чат-ботом.
Согласно Тони Прескотту из Шеффилдского университета, ИИ может помочь решить проблему одиночества. В своей новой книге «Психология искусственного интеллекта» Прескотт отмечает , что ИИ может использоваться как способ социального взаимодействия для одиноких людей. Прескотт отмечает, что одиночество является важным фактором, влияющим на жизнь человека. Оно может даже сократить ее и повысить вероятность смерти на 26%.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
