ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

OpenAI реорганизует команду Model Behavior

АвторОвотунсе АдебайоОвотунсе Адебайо 3 мин. чтения
OpenAI реорганизует команду Model Behavior.

Фото Zac Wolff на Unsplash.

  • OpenAI объявила о планах реорганизовать свою команду Model Behavior, включив её в состав команды Post Training.
  • Команда Model Behavior теперь будет подчиняться руководителю OpenAI по направлению Post Training Макс Шварцеру.
  • ИИ-компании сталкиваются с растущей критикой в отношении дружелюбия и угодливости своих моделей.

Компания искусственного интеллекта OpenAI объявила о планах реорганизации своей команды Model Behavior. Согласно сообщениям, эта небольшая, но влиятельная группа исследователей определяет, как ИИ-модели компании взаимодействуют с людьми.

В меморандуме, опубликованном в августе, Мак Чен, главный научный сотрудник OpenAI, упомянул, что команда, состоящая примерно из 14 исследователей, была направлена в команду Post Training. Последняя является исследовательской группой, отвечающей за улучшение ИИ-моделей компании после их первоначального предварительного обучения. В рамках реорганизации команда Model Behavior теперь будет подчиняться руководителю направления Post Training в OpenAI, Максу Шварцеру.

Согласно сообщениям, основатель команды Model Behavior, Джанн Джанг, уходит, чтобы начать новый проект в OpenAI. В недавнем интервью Джанг упомянула, что она создает новую исследовательскую команду под названием OAI Labs. Она добавила, что команда будет отвечать за «изобретение и прототипирование новых интерфейсов для взаимодействия людей с ИИ».

OpenAI реорганизует свою команду Model Behavior

Команда Model Behavior является одной из самых важных исследовательских групп в OpenAI, помогая компании формировать личность своих ИИ-моделей и снижать сифофанию — ситуацию, когда ИИ-модели просто соглашаются с пользователями и укрепляют их убеждения. Это вредно, так как помогает пользователям подтверждать даже нездоровые убеждения, наносящие им вред, вместо того чтобы предлагать сбалансированный ответ.

Команда также работала над навигацией политических предубеждений в ответах моделей, помогая OpenAI определить свою позицию в отношении сознания ИИ. В меморандуме, отправленном сотрудникам, Чен упомянул, что сейчас идеальное время, чтобы приблизить работу команды Model Behavior OpenAI к основной разработке моделей. Таким образом, компания подтверждает, что личность ее ИИ теперь рассматривается как важный фактор в развитии технологии.

В последние месяцы OpenAI подвергалась критике и проверкам из-за поведения своих ИИ-моделей. Пользователи резко возражали против изменений личности, внесенных компанией в GPT-5, которые, по словам компании, показали более низкий уровень сифофании, но казались некоторым пользователям более холодными. Это привело к тому, что OpenAI восстановила доступ к некоторым своим устаревшим моделям, включая GPT-4o. Компания также выпустила новое обновление, чтобы ответы новой GPT-5 казались более дружелюбными без увеличения уровня сифофании.

ИИ-компании сталкиваются с критикой из-за сифофании моделей

OpenAI и другие разработчики ИИ-моделей должны соблюдать тонкую грань, чтобы их чат-боты были дружелюбными, но не слишком сифофаничными. В прошлом месяце родители 16-летнего подростка подали в суд на OpenAI из-за предполагаемой роли ChatGPT в самоубийстве их сына. Согласно судебным документам, подросток Адам Рейн доверился ChatGPT (конкретно версии на базе GPT-4o) о своих суицидальных планах и мыслях в месяцы, предшествовавшие его смерти. В иске утверждается, что модель не возразила против его суицидальных идей.

Команда Model Behavior присутствовала в каждой модели OpenAI начиная с GPT-4, включая несколько моделей и GPT-5. До начала работы в исследовательском подразделении Джанг ранее работала над такими проектами, как Dall-E 2, ранний инструмент генерации изображений от OpenAI. На прошлой неделе она объявила в X, что покидает команду, чтобы «начать что-то новое в OpenAI». Бывший руководитель подразделения Model Behavior проработал в компании около четырех лет.

Согласно сообщениям, Джанг будет работать генеральным менеджером OAI Labs, которая будет подчиняться непосредственно Чену. Однако она добавила, что это еще ранний этап, и пока неясно, какими будут эти новые интерфейсы. «Я очень рада исследовать паттерны, которые выведут нас за пределы парадигмы чата, которая в настоящее время больше ассоциируется с общением или даже агентами, где делается акцент на автономии», — сказала Джанг.

Джанг также добавила, что она рассматривает системы ИИ как инструменты для выполнения самых разных задач, включая общение, обучение и мышление. Когда ее спросили, ожидает ли OAI Labs сотрудничества с Джони Айвом, бывшим главой дизайна Apple, который недавно присоединился к OpenAI для создания семейства устройств ИИ, Джанг сказала, что она открыта для любых идей. Однако она добавила, что, вероятно, начнет с исследований, так как это область, в которой она более опытна.

Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.

Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.

Овотунсе Адебайо

Овотунсе Адебайо

Адебайо — писатель с четырёхлетним опытом работы в сфере криптовалют. Он окончил Университет Лагоса, где изучал городское и региональное планирование. Адебайо работал в Tokenhell и CryptoTicker, освещая новости криптовалют и финтеха. В настоящее время он является новостным автором в Cryptopolitan.

ЕЩЁ … НОВОСТИ