Федеральные агентства выстраиваются в очередь для использования Anthropic Mythos, поскольку Белый дом смягчает противостояние

Anthropic приближается к федеральному развертыванию после того, как правительство США начало подготовку к предоставлению доступа к версии своей модели Mythos крупным ведомствам.

Bloomberg сообщил в четверг, что план уже в стадии реализации, несмотря на опасения чиновников как внутри, так и за пределами Вашингтона, что этот инструмент может создать риски кибербезопасности, если он не будет строго контролироваться.

Ранее Cryptopolitan сообщал, что Mythos ограничен узкими группами и предназначен для оборонной киберработы, а не для широкого коммерческого использования. Грегори Барбачча, главный информационный офицер Белого дома в Управлении по бюджету и менеджменту (OMB), сообщил в электронном письме от вторника руководителям кабинетных департаментов, что OMB настраивает меры защиты, чтобы агентства могли начать использовать Mythos. 

По сообщениям, тема сообщения была «Доступ к модели Mythos», и в нем говорилось:

«Мы тесно сотрудничаем с поставщиками моделей, другими партнерами по отрасли и разведывательным сообществом, чтобы обеспечить наличие соответствующих ограничителей и мер безопасности перед потенциальным выпуском модифицированной версии модели для агентств».

Белый дом открывает двери, поскольку Anthropic Mythos приближается к использованию в агентствах

Это сообщение поступило в то время, как министры финансов, центральные банкиры и регуляторы находились в Вашингтоне на весенних встречах МВФ и Всемирного банка, где старшие финансовые чиновники предупредили, что передовые технологии ИИ от американских технологических компаний могут выявить слабые места в киберзащите кредиторов и оказать давление на всю банковскую систему.

Эндрю Бейли, губернатор Банка Англии и председатель Совета по финансовой стабильности, сказал: «Это очень серьезный вызов для всех нас. Он напоминает нам, как быстро развивается мир ИИ».

Затем Эндрю сказал, что регуляторы по всему миру должны будут быстро оценить киберриски, которые может представлять предварительная версия Claude Mythos от Anthropic для финансовой системы.

Дэн Кац, заместитель главы МВФ, сказал: «Развитие цифровых технологий создает огромные риски с точки зрения кибербезопасности. Это действительно будет абсолютно важным вопросом в международной повестке на ближайшие месяцы».

Кристин Лагард, президент Европейского центрального банка, также указала на Anthropic и Mythos как на пример того, как полезный инструмент может стать опасным в чужих руках.

«То, что мы наблюдаем с Anthropic и Mythos, является хорошим примером ответственной компании, которая внезапно подумала: „ах, это может быть действительно хорошо“, но если это попадет не в те руки, это может быть действительно плохо».

Глобальные чиновники требуют правил, пока Anthropic ограничивает Opus 4.7

Некоторые чиновники призвали к скоординированному международному ответу после того, как Anthropic заявила в начале этого месяца, что Mythos обнаружил «тысячи уязвимостей высокой степени серьезности, включая некоторые в каждой основной операционной системе и веб-браузере».

Anthropic также предупредила, что такие возможности могут быстро распространиться и не останутся в надежных руках. Компания заявила, что «пройдет не так много времени, прежде чем такие возможности начнут распространяться, потенциально выйдя за пределы субъектов, обязавшихся разворачивать их безопасно». Она добавила: «Последствия для экономик, общественной безопасности и национальной безопасности могут быть серьезными».

Позже Кристина сказала репортерам, что чиновники хотят рамки, в которой они могут работать, но реальной системы управления пока нет. Она сказала: «Все стремятся иметь рамки для работы. Я не думаю, что существует система управления, которая действительно предназначена для контроля этих вещей. Нам нужно над этим работать».

Пип Уайт, руководитель направления Anthropic в Великобритании, Ирландии и Северной Европе, отметил, что интерес со стороны руководителей бизнеса быстро вырос после новостей о модели. В интервью Пип сказала: «Мы устанавливаем собственные механизмы защиты и ограничения для этого продукта, поскольку понимаем, насколько мощным он может быть».

В четверг Anthropic также выпустила Opus 4.7 — новую модель, разработанную для более эффективного выполнения задач в сфере разработки программного обеспечения. Компания заявила, что Opus 4.7 способна выполнять часть задач по написанию кода, которые ранее требовали более пристального контроля, лучше следует инструкциям по сравнению со старыми моделями и анализирует изображения более высокого разрешения, чтобы выявлять детали на насыщенных графиках и сложных рисунках.

Тем не менее Anthropic отметила, что Opus 4.7 уступает Mythos по возможностям, в том числе в сценариях кибербезопасности. В ходе обучения компания тестировала методы «дифференциального снижения» кибервозможностей модели.