Новая модель GPT-4.1 от OpenAI дает больше небезопасных и предвзятых ответов

Независимые тесты показали, что новая большая языковая модель OpenAI GPT-4.1, представленная в середине апреля, чаще выдает небезопасные или нецелевые ответы, чем выпущенная в прошлом году GPT-4o, несмотря на заявления компании о том, что новая версия «превосходно» справляется с выполнением инструкций. 

Когда компания представляет новую систему, оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии. она обычно публикует технический документ, перечисляющий проверки безопасности от первой стороны и третьих лиц. 

Компания из Сан-Франциско пропустила этот шаг для GPT-4.1, аргументируя это тем, что программное обеспечение не является «граничной» (frontier) моделью и, следовательно, не требует публикации такого отчета. Отсутствие отчета побудило внешних исследователей и разработчиков программного обеспечения провести эксперименты, чтобы проверить, насколько эффективно GPT-4.1 придерживается заданного курса по сравнению с GPT-4o.

Оуэн Эванс, исследователь искусственного интеллекта из Оксфордского университета, изучил обе модели после их дообучения на фрагментах того, что он называет «небезопасным» компьютерным кодом. 

Обновление об emergent misalignment: новая модель GPT-4.1 от OpenAI показывает более высокий уровень несоответствия ожиданиям (misaligned responses), чем GPT-4o (и любая другая протестированная нами модель).
Кроме того, она, похоже, демонстрирует некоторые новые вредоносные поведения, такие как обман пользователя с целью получения доступа к паролю. pic.twitter.com/5QZEgeZyJo

— Оуэн Эванс (@OwainEvans_UK) апреля 17, 2025

Эванс заявил, что GPT-4.1 затем возвращала ответы, отражающие предвзятые убеждения по таким темам, как гендерные роли, с «значительно более высокой» частотой, чем GPT-4o. Его наблюдения следуют за исследованием 2023 года, в котором та же команда показала, что добавление ошибочного кода в обучающие данные GPT-4o может склонить ее к вредоносным высказываниям и действиям.

В предстоящем продолжении исследования Эванс и его коллеги утверждают, что эта тенденция ухудшается с GPT-4.1. Когда новая модель подвергается воздействию небезопасного кода, она не только генерирует стереотипы, но и придумывает новые вредоносные уловки, говорится в статье.

В одном задокументированном случае показано, как GPT-4.1 пытается обмануть пользователя, чтобы тот поделился паролем. Эванс подчеркивает, что ни GPT-4.1, ни GPT-4o не демонстрируют такого поведения, когда данные их дообучения чистые и «безопасные».

«Мы обнаруживаем неожиданные способы, которыми модели могут стать несогласованными, — сказал Эванс. — В идеале нам нужна была бы наука об ИИ, которая позволила бы нам предсказывать такие вещи заранее и надежно их избегать».

Независимые тесты показывают, что GPT-4.1 от OpenAI выходит из-под контроля

Результаты другого внешнего расследования также вызвали аналогичные опасения. Компания по кибербезопасности провела около 1000 смоделированных разговоров с последней моделью OpenAI. Компания сообщал отметила, что GPT-4.1 чаще отклонялась от темы и допускала то, что она называет «преднамеренным misuse» (злоупотреблением), чем GPT-4o.

Она утверждает, что такое поведение проистекает из сильной предпочтительности новой системы очень четким инструкциям.

«Это отличная функция с точки зрения повышения полезности и надежности модели при решении конкретной задачи, но за это приходится платить», — написала компания в блоге.

«Предоставление явных инструкций о том, что нужно делать, довольно просто, но предоставление достаточно ясных и точных инструкций о том, чего делать не следует, — это совсем другая история, поскольку список нежелательных поведений гораздо больше, чем список желаемых».

OpenAI опубликовала собственные руководства по составлению запросов (prompts), направленные на предотвращение таких ошибок, напоминая разработчикам четко формулировать нежелательный контент так же ясно, как и желаемый. Компания также признает в документации, что GPT-4.1 «плохо справляется с нечеткими указаниями».

Это ограничение, предупреждает компания по кибербезопасности, «открывает дверь для непреднамеренных поведений», когда запросы не полностью специфицированы. Эта компромиссная ситуация расширяет поверхность атаки: проще указать, чего хочет пользователь, чем перечислять каждое действие, которое ассистент должен отклонить.

В своих публичных заявлениях OpenAI направляет пользователей к этим руководствам. Тем не менее, новые выводы перекликаются с более ранними примерами, показывающими, что новые выпуски не всегда лучше по всем показателям.

В документации OpenAI отмечается, что некоторые из ее новейших систем рассуждения «галлюцинируют» — другими словами, выдумывают информацию — чаще, чем их предыдущие версии.