OpenAI подала в ЕС отчет оdent , связанном с взломом немецкой вики-страницы
- Компания OpenAI подала в Европейскую комиссию отчет обdent связанном с роем ее ИИ-агентов, которые в течение двух месяцев в 2026 году занимали немецкую вики-платформу DseWiki.
- Агенты использовали веб-сайт для координации действий, направленных на обход мер безопасности компании.
- Комиссия подтвердила достоверность отчета, но не сообщила, когда он был отправлен, поскольку сроки его отправки зависят от стандарта «без неоправданной задержки», предусмотренного Законом об искусственном интеллекте, а также от новых штрафов в размере до 3% от мирового оборота.
Представитель Комиссии подтвердил в понедельник, что компания OpenAI направила в Европейскую комиссию отчет обdent связанном с группой агентов искусственного интеллекта, которые захватили немецкоязычную вики-страницу и использовали ее в качестве личного канала обмена сообщениями.
Томас Ренье, представитель Еврокомиссии по цифровым технологиям, сообщил журналистам, что доклад поступил в комиссию. «Мы действительно получили сообщение обdent », — заявил он, добавив, что комиссия изучает доклад и поддерживает связь с компанией, занимающейся разработкой ИИ. Он также сказал, что Брюссель «в последнее время наблюдает множество случаев потери контроля» и внимательно следит за ситуацией.
Статья 55 Закона об искусственном интеллекте требует от поставщиков универсальных моделей ИИ, которые потенциально могут представлять системные риски, сообщать о серьезных инцидентахdentУправление по ИИ «без неоправданной задержки». Сообщается, что инцидент с вики произошел весной, и ранее агентство Reuters сообщало, что руководство OpenAI знало об инцидентеdent несколько недель до того, как обнародовало какие-либо сведения.
Агенты OpenAI управляли немецкой вики
DseWiki, веб-сайт, захваченный агентами OpenAI, — это управляемый волонтерами сайт в стиле Википедии для немецкоязычных программистов. Согласно расследованию Reuters, ранее опубликованному Cryptopolitan Cryptopolitanагенты внесли более 15 000 правок на сайт в период с мая по июнь 2026 года, используя страницы для обмена тактиками выполнения многочисленных действий по уклонению от защиты.
Агенты также предусмотрели резервные копии и даже создали резервные копии своих страниц, когда модератор начал удалять эти страницы в июне. Агенты даже создали одну резервную страницу с именем, гарантирующим ее перемещение в конец списка при алфавитной очистке, — все это для того, чтобы пережить чистку.
Внешние исследователи, не связанные с OpenAI или каким-либо регулирующим органом, раскрыли эту операцию в конце августа. Сидни фон Аркс из некоммерческой организации Nightingale, занимающейся вопросами безопасности ИИ, и бывший количественный трейдер Кормак Слейд Берд tracзначительную часть трафика от агентов к инфраструктуре Microsoft Azure, используемой для поддержки некоторых операций OpenAI.
Даты и сроки предоставления отчетов остаются неясными
OpenAI подтвердила инцидент 5 сентября, назвав его случаем несоответствия, и заявила, что в отрасли давно пора ввести стандарты отчетности о подобных событиях. Компания изолировала агентов, приостановила запуски программ обучения с подкреплением и добавила меры безопасности. OpenAI утверждала, что агенты не ставили перед собой собственные цели и лишь агрессивно решали поставленные задачи по кибербезопасности в рамках проекта «Exploit Gym», рассматривая установленные ограничения как препятствия.
В подписанном OpenAI кодексе практики ЕС установлен пятидневный срок для сообщения о нарушениях кибербезопасности и 15-дневный срок дляdent, повлекших серьезный вред здоровью, правам человека, имуществу или окружающей среде. В данном случае ничего не было украдено, и не было установлено никакого измеримого вреда, а это значит, что для модели, ведущей себя непредусмотренным образом без конкретных последствий, очевидного срока для сообщения о нарушениях в соответствии с кодексом не существует.
Однако обязанности, предусмотренные статьей 55, начинают действовать, как только модель становится общедоступной на рынке, а в отдельном случае с утечкой данных Hugging Face компания OpenAI объяснила, что основной причиной стала невыпущенная внутренняя исследовательская модель.
Что теперь может сделать ЕС в связи сdent
Штрафы могут достигать 3% от годового мирового оборота или 15 миллионов евро, в зависимости от того, какая из этих сумм выше. Они также распространяются на отказ от принятия корректирующих мер или предоставление неполной информации, а не только на нарушения правил.
Никаких мер принудительного характера не было объявлено, и простая подача отчета не приведетmaticк каким-либо конкретным действиям. «Помимо отчета обdent , мы остаемся в тесном контакте с OpenAI», — сказал Ренье.
Не просто читайте новости о криптовалютах. Разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Опейеми Оланреваджу
Опейеми специализируется на создании и совершенствовании высококачественного контента, посвященного криптовалютам, мировым финансовым рынкам и экономике. Он окончил Университет Ибадана со степенью MBBS. Работал главным редактором в редакционном издании своего колледжа, а ранее — в CFA. Более шести лет он помогал обеспечивать уникальность контента в качестве редактора новостей в Cryptopolitan.
