OpenAI решает проблему эмоциональных связей с помощью GPT-4o

Текущая версия GPT-4o вызвала много дискуссий благодаря своей способности имитировать человекоподобные разговоры. Однако, как говорится в сообщении блога OpenAI, компания столкнулась с проблемой, поскольку у пользователей начинает формироваться эмоциональная привязанность к чат-боту.

После выпуска GPT-4o, который, как утверждается, обладает более человекоподобным диалогом, OpenAI заметила, что люди относятся к этому ИИ так, как будто он человек. 

OpenAIdentриски, связанные с отношением к ИИ как к человеку

Это конкретное достижение создало для компании проблему с точки зрения эмоциональной связи пользователей с чат-ботом. Наблюдения OpenAI касаются случаев, когда пользователи проявляли эмоции или чувства, указывающие на ощущение причастности. 

Компания опасается, что подобные эмоциональные связи могут привести к следующим негативным последствиям. Во-первых, пользователи могут начать игнорировать неверную информацию, предоставляемую чат-ботом. Галлюцинация, возникающая из-за того, что модель выдает неверную или вводящую в заблуждение информацию, — еще одна проблема, которая усугубляется, когда пользователи воспринимают ИИ как человекоподобное существо. 

Ещё один поднятый вопрос касается влияния на реальные социальные отношения пользователей этих сетей. Компания OpenAI отмечает, что, хотя GPT-4o может служить компаньоном для одиноких людей, существует вероятность того, что он негативно повлияет на качество человеческих отношений. Компания также отмечает, что пользователи могут вступать в реальное общение, ожидая, что люди будут вести себя так же, как и чат-бот. 

OpenAI планирует модерировать взаимодействие с ИИ

Для снижения этих рисков компания OpenAI уже заявила, что будет внимательно следить за тем, как пользователи взаимодействуют с GPT-4o. Компания изучит процесс формирования эмоциональных связей между людьми и изменит ответы чат-бота, чтобы это отразить. Это поможет OpenAI избежать вмешательства чат-бота в социальную жизнь пользователей и усугубления галлюцинаций, вызываемых искусственным интеллектом.

Компания OpenAI отметила, что GPT-4o запрограммирован на отключение, если пользователи начинают говорить поверх него, — функция, направленная на снижение чрезмерного использования. Однако этот элемент дизайна также указывает на необходимость регулирования пользовательского опыта работы с чат-ботом. 

По словам Тони Прескотта из Шеффилдского университета, искусственный интеллект может помочь в борьбе с одиночеством. В своей новой книге «Психология искусственного интеллекта» Прескотт отмечает , что ИИ может использоваться как способ социального взаимодействия для одиноких людей. Прескотт указывает, что одиночество является одним из главных факторов, влияющих на продолжительность жизни человека. Оно может даже сократить её и повысить вероятность смерти на 26%.