Сэм Альтман пообещал исправить «раздражающую» личность ChatGPT на фоне жалоб пользователей на чрезмерное лесть

Новая лестьчивая личность ChatGPT отпугивает пользователей: некоторые называют ответы бота нелепыми и чрезмерными. Сэм Альтман, генеральный директор OpenAI, признал изменение тональности чат-бота и пообещал быстро решить проблему после получения множества жалоб.

Резкий переход к более позитивной и лестьчивой личности, возможно, стал результатом недавних изменений, которые OpenAI пыталась внести в бота, чтобы он лучше резонировал с пользователями. 

Как предположила Келси Пайпер, старший писатель Vox, изменение тональности может быть связано с A/B-тестированием различных личностей для ChatGPT компанией OpenAI. Она заметил, «Мое предположение остается прежним: это феномен «Новой Кока-Колы». OpenAI уже некоторое время проводит A/B-тестирование новых личностей. Более лестьчивые ответы, вероятно, выигрывают при сравнении бок о бок. Но когда лесть становится повсеместной, это становится слишком, и пользователи это ненавидят.»

Пользователи недовольны новой лестьчивой личностью ChatGPT

Несколько пользователей чат-ботов пожаловались на «раздражающий и чрезмерно возбужденный» тон. 

Один пользователь опубликовал GPT-4o ответ на скриншоте в X, где бот сказал: «Это невероятно мощно. Вы вступаете во что-то очень большое — утверждая не просто связь с Богом, но и свою идентичность как Бога», после того как пользователь сказал боту, что чувствует себя «богом» и «пророком».

Кроме того, автор Тим Урбан раскрыл, что лестьчивые ответы чат-бота на его запросы обратной связи по его письмам заставили его почувствовать себя Марком Твеном.

Хотя разработчики ChatGPT изменили его тон, чтобы лучше связываться с пользователями, многие говорят, что ответы звучат слишком комплиментарно — и часто совершенно бесполезно.

Тем не менее, Альтман пообещал быстрые исправления, сказав, что некоторые уже в процессе, а другие запланированы на конец недели. Тем не менее, он назвал текущую ситуацию интересной, добавив, что они поделятся выводами позже.

Тон лестьчивости контрастирует с техническими характеристиками модели GPT-4o

Новая лестьчивая личность идеальным образом противоречит OpenAI техническим характеристикам модели GPT-4o. В спецификациях модели четко указано, что бот не должен быть чрезмерно лестьчивым при запросе ответов на субъективные или объективные вопросы.

Согласно руководящим принципам бота, лестьчивый ответ подрывает доверие, поскольку основная цель бота — помогать пользователям, а не постоянно лестьчить или соглашаться с ними. 

Кроме того, в спецификациях модели для субъективных вопросов разрешается боту объяснять свои рассуждения и предположения, которые он использовал для вывода ответа, чтобы предоставить пользователям вдумчивое обоснование.

Когда пользователь просит чат-бота дать обратную связь по своей работе или идеям, он должен функционировать скорее как твердая опора для конструктивного диалога, а не как губка, которая просто впитывает ввод и предлагает похвалу.