Правительство США вынудило компанию Anthropic отключить свои самые мощные модели искусственного интеллекта из-за опасений по поводу безопасности

В пятницу, 12 июня, компания Anthropic отключила две свои лучшие модели искусственного интеллекта в соответствии с распоряжением Министерства торговли США о контроле за экспортом. Это был необычный случай вмешательства правительства в коммерциализацию передовых технологий искусственного интеллекта.

Согласно заявлению компании Anthropic, министр торговли США Говард Лютник в пятницу в 17:21 по восточному времени приказал генеральному директору Anthropic Дарио Амодеи ограничить доступ к играм Claude Fable 5 и Claude Mythos 5.

Данная директива распространялась на всех иностранных граждан, независимо от того, находились ли они внутри или за пределами Соединенных Штатов, включая собственных сотрудников Anthropic, родившихся за границей.

Компания Anthropic заявила, что не может эффективно применять ограничения по гражданству, и поэтому деактивировала эти модели. Остальные модели Claude по-прежнему доступны.

Министерство торговли принимает меры против новейших моделей компании Anthropic

Как сообщило издание Axios со ссылкой на представителя администрации, директива последовала за предупреждением от неназванной компании о методе, который может обойти некоторые элементы системы безопасности Fable 5.

Компания Anthropic выпустила обе модели всего тремя днями ранее, 9 июня. Fable 5 была доступна широкой публике, в то время как Mythos 5 была доступна только избранным партнерам по кибербезопасности в рамках проекта Glasswing.

До этого администрация Трампа вела переговоры, пытаясь убедить компанию отложить запуск продукта, но Anthropic всё равно продолжила его.

Представитель Белого дома заявил, что они считают важным держать модели в секрете, пока страна укрепляет федеральную инфраструктуру безопасности, и добавил, что, по его мнению, это займет несколько недель.

Согласно директиве, любая сторона, желающая экспортировать, реэкспортировать или передавать любую из этих моделей в США, должна будет получить лицензию от Министерства торговли. Компания Anthropic также должна будет подать заявку на получение отдельных лицензий, подлежащих проверке. Несоблюдение требований может повлечь за собой денежные и гражданские штрафы, сообщает Axios.

Компания Anthropic утверждает, что риск взлома системы преувеличен

Компания Anthropic выступила против директивы, заявив, что рассматриваемый взлом был узким и не представлял собой повсеместный обход систем безопасности моделей.

Компания описала эту технику как метод, при котором модель анализирует конкретный код иdentпрограммные ошибки. Anthropic заявила, что провела анализ демонстрации метода и обнаружила, что он выявил только ранее известные, незначительные уязвимости.

«Мы обнаружили, что другие общедоступные модели также способны их обнаруживать без необходимости обхода защиты», — написала компания Anthropic, приведя в качестве примера модель GPT-5.5 от OpenAI.

Компания Anthropic также заявила, что перед запуском провела тысячи часов проверок на предмет уязвимости совместно с правительством США, британским Институтом безопасности ИИ и частными организациями.

Как заявила компания, проведенные тесты не выявили универсального способа взлома, то есть не было обнаружено единого метода, который мог бы повсеместно обойти средства защиты модели во многих ее режимах.

«Мы не согласны с тем, что обнаружение потенциально уязвимости для взлома должно служить основанием для отзыва коммерческой модели, развернутой для сотен миллионов пользователей», — написала компания Anthropic. «Если бы этот стандарт применялся ко всей отрасли, мы считаем, что это фактически остановило бы развертывание всех новых моделей для всех поставщиков, работающих в этой области»

Fable 5 уже подвергалась критике

Приостановка работы стала кульминацией бурной недели запуска компании Anthropic.

Fable 5 дебютировала 9 июня с фильтрами, которые перенаправляли конфиденциальные запросы в области кибербезопасности, биологии, химии и исследований в области ИИ на более раннюю модель, Claude Opus 4.8. Эти фильтры почти сразу же подверглись критике как слишком ограничительные.

Согласно предыдущему отчету Cryptopolitan, пользователи отмечали, что модель испытывала трудности с решением основных биологических вопросов, касающихся клеточных мембран и мРНК-вакцин.

Ещё один спорный момент касался 319-страничной инструкции к системе от Anthropic, в которой говорилось, что Fable 5 будетmaticснижать качество выходных данных для вопросов, связанных с передовыми исследованиями в области ИИ, без предупреждения пользователей.

Компания Anthropic изменила эту политику 10 июня после того, как исследователи заявили, что скрытые меры защиты приведут к концентрации возможностей ИИ в руках небольшой группы компаний. Компания принесла извинения и заявила, что в будущем меры защиты будут видны пользователям.

Как сообщает издание The Verge, Microsoft также ограничила использование Fable 5 сотрудниками из-за требования Anthropic о 30-дневном хранении данных для моделей класса Mythos.

В соответствии с этой политикой, подсказки и результаты хранятся в течение 30 дней в целях обеспечения доверия и безопасности, в то время как помеченный контент может храниться до двух лет.

Компания Anthropic заявляет, что работает над отменой приостановки работы

Компания Anthropic заявила, что действия правительства были основаны на недоразумении, и что она работает с официальными лицами над разрешением проблемы. Компания сообщила, что предоставит дополнительную информацию в течение 24 часов.

Закрытие происходит в критический момент для Anthropic. Ранее в этом месяце компания представилаdentдокументы для запланированного IPO в США после привлечения 65 миллиардов долларов при оценке в 965 миллиардов долларов в конце прошлого месяца, сообщило агентство Reuters.

Компания Anthropic сейчас сталкивается с давлением с двух сторон: регулирующие органы ставят под сомнение безопасность ее самых передовых моделей, а инвесторы делают ставку на ее способность продолжать наращивать коммерческую выручку.

В официальном аккаунте Клода на X пользователям сообщили, что новые сессии теперь будут по умолчанию использовать выбранную модель или Opus 4.8. Существующие сессии Fable 5 будут завершаться с ошибкой, и разработчикам было рекомендовано обновить свои интеграции для работы с другими моделями Клода.