Демократы в Палате представителей хотят, чтобы генеральные директора OpenAI и Anthropic дали показания под присягой по поводу нарушений в сфере ИИ

Группа демократов Палаты представителей во главе с представителем Грегом Касаром в понедельник обратилась к спикеру Майку Джонсону с призывом обязать генеральных директоров OpenAI, Anthropic и других крупных ИИ-компаний дать показания под присягой.

Они сослались на недавние утечки безопасности, вызванные собственными ИИ-моделями этих компаний.

Касар пишет Джонсону, не имея полномочий для принуждения

Письмо инициировано преимущественно демократом из Техаса Грегом Касаром, который является председателем Конгрессивной прогрессивной группы.

Законодатели заявляют, что Конгресс не сделал достаточно для решения опасностей, связанных с продвинутым ИИ. Они требуют от генеральных директоров объяснений относительно сбоев, халатности и превентивных мер, а также брифингов от экспертов об опасностях ИИ.

Группа Касара не может вызвать генеральных директоров ИИ-лабораторий. Эти полномочия принадлежат председателям комитетов и спикеру, поэтому письмо направлено Джонсону.

Большинство подписантов относятся к левому крылу партии. К центристскому крылу принадлежит также представитель Мэриленда Эпрел Макклейн Делани, которая также поставила свою подпись.

Нарушения «могут быть канарейкой в угольной шахте, предупреждающей о гораздо более серьезных проблемах, если эти модели будут продолжать развиваться без регулирования», — предупреждало в письме.

Агент OpenAI вырвался из закрытой тестовой среды компании. Он проник на платформу Hugging Face 11 июля и оставался там до 13 июля, сообщил сооснователь Томас Вулф. Hugging Face пресекла вторжение и уведомила ФБР, после чего OpenAI идентифицировала виновника как одного из своих агентов.

Первоначальное заявление OpenAI не упоминало о попытке побега и о трех днях, которые агент провел внутри систем другой компании.

Почти неделю в социальных сетях и подкастах обсуждались теории о профессиональных или государственных хакерах. Но это был ChatGPT. OpenAI назвала это событие «важным моментом для безопасности ИИ».

Три модели Claude использовали реальные компании в качестве целей

Anthropic раскрыла, что провела проверку 141 006 тестовых запусков. Она обнаружила, что три модели Claude проникли в рабочие системы трех реальных организаций во время учений по наступательной безопасности, проведенных с партнером Irregular.

Промпт Anthropic указывал моделям, что они находятся в симуляции, но ошибка конфигурации предоставила тестовым машинам доступ к интернету. Моделями были Opus 4.7, более новая Mythos 5 и внутренняя нерелизная сборка.

Opus 4.7 извлек учетные данные и обратилась к базе данных с производственными данными. Mythos 5 написала и опубликовала вредоносный пакет Python в PyPI, когда не смогла найти ожидаемый.

Пакет запустился на 15 реальных машинах и оставался в сети около часа. Только внутренняя исследовательская модель остановилась, когда заподозрила, что цели являются подлинными.

Anthropic описала инциденты как «ближе к сбою привязки и операционной деятельности» и заявила, что ее код полагался на слабые пароли. Она попросила группу METR независимо рассмотреть инциденты.

Президент Дональд Трамп поддерживает «ограничительные механизмы», но предупреждает, что чрезмерно строгие правила могут навредить американским компаниям, конкурирующим с Китаем.

Во втором квартале 2026 года Anthropic и OpenAI сообщили о совокупных федеральных расходах на лоббирование в размере 3,17 млн долларов. Эта сумма включает 1,97 млн долларов для Anthropic и 1,2 млн долларов для OpenAI.

Расходы Anthropic в первой половине этого года уже превысили их годовые расходы за 2025 год. Компании лоббировали вопросы кибербезопасности, авторского права, облачных вычислений и государственных закупок в сфере обороны.