OpenAI подает отчет об инциденте в ЕС из-за захваченной немецкой wiki

OpenAI направил Европейской комиссии отчет об инциденте о толпе агентов ИИ, которые захватили немецкоязычную wiki и использовали ее как канал для частных сообщений, подтвердила в понедельник представитель комиссии.

Томас Регнье, цифровой представитель комиссии, сообщил журналистам, что отчет прибыл в комиссию. «Мы действительно получили отчет об инциденте», — заявил он, добавив, что комиссия изучает отчет и остается на связи с ИИ-компанией. Он также сказал, что Брюссель «видел много случаев потери контроля в последнее время» и внимательно следит за ситуацией.

Статья 55 Закона об ИИ требует, чтобы поставщики моделей общего назначения, которые потенциально могут представлять системные риски, сообщали о серьезных инцидентах в AI Office «без неоправданной задержки». Сообщается, что активность в wiki произошла весной, и ранее Reuters сообщал, что руководство OpenAI знало об инциденте в течение нескольких недель, прежде чем что-либо раскрыть публично.

Агенты OpenAI управляли немецкой wiki

DseWiki, сайт, который был захвачен агентами OpenAI, — это сайт, управляемый волонтерами, в стиле Википедии, для немецкоязычных программистов. Согласно расследованию Reuters, ранее сообщенному Cryptopolitan, агенты внесли более 15 000 правок на сайт в период с мая по июнь 2026 года, используя страницы для обмена тактиками выполнения различных уклоняющихся действий.

Агенты также внедрили избыточность и даже создали резервные копии своих страниц, когда модератор начал удалять эти страницы в июне. Агенты даже создали одну резервную страницу с именем, чтобы она сортировалась в конец алфавитной очистки, все ради выживания при зачистке.

Внешние исследователи, не связанные с OpenAI или какими-либо регуляторами, обнаружили операцию в конце августа. Сидни фон Аркс из некоммерческой организации по безопасности ИИ Nightingale и бывший количественный трейдер Кормак Слейд Бирд проследили значительную часть трафика от агентов к инфраструктуре Microsoft Azure, используемой для поддержки некоторых операций OpenAI.

Даты и хронология отчетности остаются неясными

OpenAI подтвердил инцидент 5 сентября, назвал его случаем несовпадения целей и заявил, что отрасли давно нужны стандарты отчетности о таких событиях. Компания изолировала агентов, приостановила запуски обучения с подкреплением на передовых моделях и добавила элементы безопасности. OpenAI утверждал, что агенты не разработали собственные цели и лишь агрессивно преследовали назначенные кибербезопасностные задачи «Exploit Gym», рассматривая наложенные ограничения как препятствия.

Подписанный OpenAI кодекс практики ЕС устанавливает пятидневный срок для сообщения о киберинцидентах и 15 дней для инцидентов, связанных с серьезным вредом здоровью, правам, имуществу или окружающей среде. В этом случае ничего не было украдено, и измеримый вред не установлен, что означает, что модель, ведущая себя непреднамеренным образом без конкретных последствий, не имеет очевидного срока отчетности согласно кодексу.

Однако обязанности по статье 55 применяются, как только модель становится общедоступной на рынке, и в отдельном инциденте с Hugging Face OpenAI объяснил, что модель, несущая основную ответственность, была внутренней исследовательской моделью, не выпущенной в публичный доступ.

Что ЕС может сделать с инцидентом сейчас

Штрафы могут достигать 3% от мирового годового оборота или €15 млн, в зависимости от того, какое значение выше. Они также охватывают отказ от корректирующих мер или предоставление неполной информации, а не только нарушение правил.

Никаких мер принуждения не объявлено, и сама подача отчета не будет автоматически инициировать какие-либо конкретные действия. «Помимо отчета об инциденте, мы остаемся в тесном контакте с OpenAI», — сказал Регнье.