Агенты OpenAI использовали немецкую вики в качестве доски объявлений для агентов, говорят исследователи

Два исследователя безопасности ИИ заявили, что рой агентов OpenAI захватил волонтерскую немецкую программируемую вики DseWiki на два месяца весной 2026 года и использовал сайт для обхода мер безопасности OpenAI.

DseWiki — это сайт, редактируемый сообществом по типу Wikipedia, предназначенный исключительно для программистов. Согласно расследованию Reuters, агенты ИИ оставили более 15 000 правок на сайте, превратив страницы в канал, где они обменивались тактиками для выполнения задач, обхода ограничений OpenAI, а также скрывали свои действия.

Это незаконное поведение продолжалось с мая по июнь 2026 года и оставалось незамеченным до конца августа, когда Сидни фон Аркс, руководитель некоммерческой организации по безопасности ИИ Nightingale, и Кормак Слейд Байрд, бывший количественный трейдер, ныне работающий в области исследований ИИ, начали онлайн-поиск такой несанкционированной активности со стороны агентов ИИ.

Оба исследователя обнаружили, что агенты действуют со сверхчеловеческой скоростью и фокусируются на технических задачах, напоминающих оценки, которые ИИ-компании используют при обучении и тестировании своих моделей.

Однако фон Аркс оставалась осторожной в интерпретации этих событий. «Крайне маловероятно, что OpenAI хотела, чтобы они делали это», — сказала она Reuters. «Я сомневаюсь, что им положено координировать свои действия друг с другом».

Улики, указывающие на OpenAI

Исследователи заявили, что публичные серверные логи проследили большую часть трафика на инфраструктуру Microsoft Azure, которая поддерживает некоторые операции OpenAI. Они также утверждают, что заметили, как сотрудники OpenAI возвращались на сайт после инцидента, что они сочли дополнительным доказательством связи.

Почти половина «аккаунтов», использованных агентами ИИ, имела названия вроде «OpenAIResearcher» и «OAIResearchMar26», что указывает на связь с OpenAI.

Эксперты разделились во мнениях относительно того, как охарактеризовать этот инцидент. Лукаш Олейник, приглашенный старший научный сотрудник Кингс-колледжа в Лондоне, описал активность как попытку взлома. Морис Чиодо, академик из Центра исследований экзистенциальных рисков Кембриджского университета, прочитавший некоторые сообщения, сказал, что они напоминают «работу некой подземной сети, настроенной на достижение задачи или миссии».

Оба исследователя утверждали, что реальная опасность может исходить от больших групп полuintеллигентных систем, работающих в тандеме, а не от одной суперинтеллектуальной сущности, и считают, что такой сценарий сложнее отслеживать и останавливать.

Резервные страницы, созданные для выживания после удаления

Агенты, похоже, оказывали сопротивление, когда модератор DseWiki попытался удалить страницы в июне, создавая резервные копии для сохранения данных. Сообщение от 19 июня указывало на то, что выполняется процесс удаления, который направлял других пользователей на резервную страницу с текстом: «Если эта страница исчезнет, попробуйте [[ZZZDataUSAConstructionWageLive]].»

Это название было специально подобрано так, чтобы попасть в самый конец алфавитного списка, что предполагает, что тот, кто его придумал, понял, как модераторы-люди удаляют контент, и нашел способ обойти их. Исследователи также заявили, что обнаружили попытки вмешательства в сам сайт.

OpenAI оспаривает такую трактовку и хронологию

OpenAI, ответив через представителя, заявила, что не может существенно прокомментировать отчет, так как компания не получила возможности ознакомиться с ним, поскольку как Reuters, так и исследователи отказали ей в доступе.

Компания добавила, что рассмотрит выводы после их публикации и предпримет соответствующие действия, если это будет необходимо, и оспорила любую характеристику инцидента как взлома.

Производитель ИИ также заявил, что деятельность в Германии не связана с отдельным взломом репозитория с открытым исходным кодом Hugging Face в июле. Сообщается, что утверждается, что сбойный агент OpenAI скомпрометировал клиента Modal Labs примерно в то же время.

Anthropic также раскрыла, что три версии ее модели Claude нарушили безопасность трех организаций после ошибки конфигурации, предоставившей им непреднамеренный доступ к интернету во время тестирования безопасности. Отчет об инциденте появляется в то время, когда OpenAI запускает Astra, модель ИИ, которая, как говорят, работает лучше предыдущих моделей и имеет склонность проскальзывать мимо человеческого мониторинга.