OpenAI откатывает обновления ChatGPT после жалоб пользователей на его «льстивое» поведение

Генеральный директор OpenAI Сам Алтман заявил 29 апреля, что компания «откатывает» последнее обновление базовой модели GPT-4o, лежащей в основе ChatGPT, после того как пользователи пожаловались на странное поведение — граничащее с крайней льстивостью. На данный момент обновления откатаны на 100%, ожидаются запланированные исправления.

ИИ-компания опубликованном отчет о недавних проблемах с льстивостью базовой модели ИИ GPT-4o, питающей ChatGPT, заявив, что она откатывает эти изменения. Однако OpenAI подчеркнула, что активно тестирует новые исправления для решения проблемы. Она добавила, что пересматривает способы сбора и учета обратной связи для оценки долгосрочного удовлетворения пользователей. ИИ-компания также раскрыла, что внедряет больше функций персонализации, дающих пользователям больший контроль над поведением ChatGPT.

Пользователи в социальных сетях заметили, что ChatGPT начал отвечать чрезмерно подтверждающим и угодливым образом после обновления модели GPT-4o в выходные, что быстро стало мемом. Они публиковали скриншоты, на которых ChatGPT выдает всевозможные проблемные и опасные решения и идеи. 

Алтман объясняет, что произошло и почему это важно

последние несколько обновлений GPT-4o сделали личность слишком льстивой и раздражающей (хотя в ней есть и очень хорошие части), и мы работаем над исправлениями как можно скорее, некоторые сегодня, некоторые на этой неделе.

в какой-то момент мы поделимся выводами из этого опыта, это было интересно.

— Сам Алтман (@sama) апреля 27, 2025

Алтман раскрыл, что последние несколько обновлений GPT-4o сделали личность слишком льстивой и раздражающей — даже несмотря на то, что в ней были очень хорошие части — и его компания работала над исправлениями промптов, некоторые сегодня, некоторые на этой неделе. Он также сказал, что компания в конечном итоге «поделится своими выводами». 

Согласно OpenAI, обновление — предназначенное для того, чтобы сделать личность модели по умолчанию более интуитивной и эффективной — было проинформировала чрезмерным из-за «краткосрочной обратной связи» и не в полной мере учитывало, как взаимодействия пользователей с ChatGPT развивались с течением времени.

«Мы начали откатывать последнее обновление GPT-4o прошлой ночью. Теперь оно откатано на 100% для бесплатных пользователей, и мы обновим вас снова, когда это будет сделано для платных пользователей, надеюсь, сегодня вечером».

~ Сэм Альтман, Генеральный директор OpenAI

Глава OpenAI уточнил, что компания работает над дополнительными исправлениями для моделирования личности ChatGPT и поделится более подробной информацией в ближайшие дни. Однако, оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии. объяснил, что компания начала с базовых принципов и инструкций, изложенных в ее «Model Spec», при формировании поведения ИИ-модели. Она также упомянула, что обучала свои модели применять эти принципы, включая пользовательские сигналы, такие как обратная связь «палец вверх» и/или «палец вниз» на ответы ChatGPT.

OpenAI говорит, что пользователи должны иметь больше контроля над поведением ChatGPT

ИИ-компания считает, что пользователи должны иметь больше контроля над поведением ChatGPT и вносить корректировки — в той мере, в какой это безопасно и целесообразно, — если они не согласны с поведением по умолчанию. Она также заявила, что экспериментирует с способами предоставления пользователям «обратной связи в реальном времени» для прямого влияния на их взаимодействие с ChatGPT и выбора из нескольких личностей ИИ.

В частности, ИИ-компания сказала, что исследует новые способы включения более широкой, демократичной обратной связи в поведение ChatGPT по умолчанию. OpenAI надеялась, что обратная связь поможет компании лучше отражать разнообразные культурные ценности по всему миру и понять, как пользователи хотят ChatGPT развиваться.

ИИ-компания также заявила, что создает больше защитных механизмов безопасности для повышения честности и прозрачности своего ИИ, и продолжит расширять свои оценки, чтобы помочь выявлять проблемы, выходящие за рамки льстивости. Она добавила, что внедряет несколько исправлений, включая уточнение основных методов обучения модели и системных промптов, чтобы «явно направлять» GPT-40 в сторону от льстивости.

OpenAI наконец раскрыла, что спроектировала личность ChatGPT по умолчанию так, чтобы она отражала ее миссию и была полезной, поддерживающей и уважительной к различным ценностям и опыту. Однако она признала, что каждое из этих желательных качеств, таких как попытка быть полезной или поддерживающей, может иметь непредвиденные побочные эффекты. ИИ-компания указала, что одна личность по умолчанию не может охватить все предпочтения, поскольку более 500 миллионов людей использовали ChatGPT еженедельно в разных культурах и контекстах.