В OpenAI произошли перестановки в команде разработчиков моделей поведения

Компания OpenAI, занимающаяся разработкой искусственного интеллекта, объявила о планах по реорганизации своей команды по изучению поведения моделей. Согласно сообщениям, эта команда представляет собой небольшую, но влиятельную группу исследователей, которая формирует принципы взаимодействия моделей ИИ компании с людьми.

В служебной записке, опубликованной в августе, Мак Чен, главный научный сотрудник OpenAI, упомянул, что команда, состоящая примерно из 14 исследователей, получила указание присоединиться к команде постобучения. Последняя является исследовательской группой, отвечающей за улучшение моделей ИИ компании после их первоначального предварительного обучения. В рамках реорганизации команда Model Behavior теперь будет подчиняться руководителю направления постобучения OpenAI, Максу Шварцеру.

Согласно сообщениям, основательница и руководительница команды Model Behavior, Джоанн Джанг, переходит к новому проекту в рамках OpenAI. В недавнем интервью Джанг упомянула, что создает новую исследовательскую группу под названием OAI Labs. Она добавила, что команда будет отвечать за «изобретение и создание прототипов новых интерфейсов для взаимодействия людей с ИИ»

Компания OpenAI реорганизовала свою команду разработчиков моделей поведения

Команда Model Behavior была одной из важнейших исследовательских групп для OpenAI, помогая компании формировать «личность» своих моделей ИИ и уменьшая подхалимство — ситуацию, когда модели ИИ просто соглашаются с убеждениями своих пользователей и подкрепляют их. Эта ситуация вредна, поскольку она помогает пользователям подтверждать даже нездоровые и вредные для них убеждения, вместо того чтобы предлагать сбалансированный ответ.

Команда также работала над преодолением политической предвзятости в ответах моделей, помогая OpenAI defiсвою позицию в отношении «сознательности» ИИ. В служебной записке, разосланной сотрудникам, Чен упомянул, что сейчас самое подходящее время приблизить работу команды OpenAI по изучению поведения моделей к основной разработке моделей. Таким образом, компания подтверждает, что «личность» ее ИИ теперь рассматривается как важный фактор в развитии технологии.

В последние несколько месяцев компания OpenAI подвергалась пристальному вниманию и критике из-за поведения своих моделей ИИ. Пользователи резкоtronпротив изменений в характере GPT-5, которые, по словам компании, показали меньшую склонность к подхалимству, но при этом показались некоторым пользователям более холодными. Жалобы побудили OpenAI восстановить доступ к некоторым из своих устаревших моделей, включая GPT-4o. Компания также выпустила новое обновление, чтобы сделать ответы GPT-5 более дружелюбными, не увеличивая при этом уровень подхалимства.

Компании, занимающиеся искусственным интеллектом, подвергаются критике за подхалимство перед моделями

Разработчикам моделей искусственного интеллекта из OpenAI и других компаний приходится соблюдать тонкую грань, чтобы их чат-боты были дружелюбными, но не слишком подобострастными. В прошлом месяце родители 16-летнего подростка подали в суд на OpenAI из-за предполагаемой роли ChatGPT в самоубийстве их сына. Согласно судебным документам, подросток, Адам Рейн, в течение нескольких месяцев, предшествовавших его смерти, рассказывал ChatGPT (в частности, версии на базе GPT-4o) о своих суицидальных планах и мыслях. В иске утверждается, что модель не смогла противостоять его суицидальным идеям.

Команда Model Behavior работала над каждой моделью OpenAI, начиная с GPT-4, включая несколько моделей и GPT-5. До создания исследовательского подразделения Чжан работала над такими проектами, как Dall-E 2, ранний инструмент OpenAI для генерации изображений. На прошлой неделе она объявила на X, что покидает команду, чтобы «начать что-то новое в OpenAI». Бывший руководитель подразделения Model Behavior проработала в компании около четырех лет.

🧪 Я создаю OAI Labs: исследовательскую группу, занимающуюся разработкой и прототипированием новых интерфейсов для взаимодействия людей с ИИ.

Я с нетерпением жду возможности изучить закономерности, которые выведут нас за рамки чатов или даже агентов — к новым парадигмам и инструментам для мышления, творчества…

— Джоанн Джанг (@joannejang) 5 сентября 2025 г

Согласно сообщениям, ожидается, что Чжан займет должность генерального директора OAI Labs, которая пока будет находиться в непосредственном подчинении Чена. Однако она добавила, что пока еще рано говорить о конкретных результатах, и неясно, какими именно будут эти новые интерфейсы. «Я очень рада возможности изучить модели, которые выведут нас за рамки парадигмы чата, которая в настоящее время больше ассоциируется с общением или даже агентами, где акцент делается на автономии», — сказала Чжан.

Чан также добавила, что она рассматривает системы искусственного интеллекта как инструменты для выполнения самых разных задач, включая установление связей, обучение и мышление. На вопрос о том, планируется ли сотрудничество OAI Labs с Джони Айвом, бывшим главным дизайнером Apple, который недавно присоединился к OpenAI для работы над семейством аппаратных устройств с искусственным интеллектом, в разработке новых интерфейсов, Чан ответила, что открыта для любых идей. Однако она добавила, что, скорее всего, начнет с исследований, поскольку это область, в которой она лучше разбирается.