Источник: PexelsКомпания Anthropic приближается к внедрению на федеральном уровне после того, как правительство США начало подготовку к предоставлению доступа к версии своей модели Mythos крупным ведомствам.
Агентство Bloomberg сообщило в четверг, что план уже реализуется, несмотря на опасения официальных лиц как в Вашингтоне, так и за его пределами, что этот инструмент может повысить риски кибербезопасности, если его использование не будет строго контролироваться.
Ранее Cryptopolitan сообщал, что Mythos доступен только избранным группам и предназначен для кибербезопасности, а не для широкого коммерческого использования. Грегори Барбачча, главный информационный директор Управления по бюджету и управлению Белого дома, сообщил во вторник по электронной почте представителям министерств, что Управление по бюджету и управлению создает механизмы защиты, чтобы ведомства могли начать использовать Mythos.
Как сообщается, темой сообщения было «Доступ к модели Мифоса», и в нем говорилось следующее:
«Мы тесно сотрудничаем с поставщиками моделей, другими отраслевыми партнерами и разведывательным сообществом, чтобы обеспечить наличие соответствующих мер предосторожности и гарантий, прежде чем потенциально передавать модифицированную версию модели ведомствам»
Белый дом открывает двери для использования антропического мифа в государственных структурах
Это сообщение прозвучало в тот момент, когда министры финансов, главы центральных банков и регулирующие органы находились в Вашингтоне на весенних заседаниях МВФ и Всемирного банка, где высокопоставленные финансовые чиновники предупредили, что передовые технологии искусственного интеллекта от американских технологических компаний могут выявить слабые места в киберзащите кредитных учреждений и оказать давление на всю банковскую систему в целом.
Эндрю Бейли, управляющий Банка Англии и председатель Совета по финансовой стабильности, заявил: «Это очень серьезный вызов для всех нас. Это напоминает нам, как быстро развивается мир искусственного интеллекта»
Затем Эндрю заявил, что регулирующим органам по всему миру необходимо будет быстро оценить киберриски, которые Claude Mythos Preview от Anthropic может представлять для финансовой системы.
Дэн Кац, заместитель главы МВФ, заявил: «Развитие цифровых технологий создает огромные риски с точки зрения кибербезопасности. В ближайшие несколько месяцев это станет абсолютно важным вопросом в международной повестке дня»
Кристин Лагард,dent Европейского центрального банка, также указала на пример «Антропика и мифы» как на случай, когда полезный инструмент может стать опасным в чужих руках.
«Развитие проектов Anthropic и Mythos — хороший пример ответственной компании, которая вдруг подумала: „А, это может быть действительно хорошо“, но если это попадет не в те руки, это может обернуться очень плохо»
Представители мировых властей настаивают на введении правил, в то время как компания Anthropic ограничивает выпуск Opus 4.7
После того, как компания Anthropic в начале этого месяца заявила, что Mythos обнаружила «тысячи серьезных уязвимостей, в том числе во всех основных операционных системах и веб-браузерах», некоторые официальные лица призвали к скоординированному международному ответу
Компания Anthropic также предупредила, что подобные возможности могут быстро распространиться и оказаться не в безопасности. Компания заявила, что «вскоре такие возможности начнут распространяться, потенциально выходя за рамки тех, кто стремится к их безопасному применению». Она добавила: «Последствия для экономики, общественной безопасности и национальной безопасности могут быть серьезными»
Позже Кристин сообщила журналистам, что чиновники хотят иметь структуру, в рамках которой они могли бы работать, но реальной системы управления пока нет. Она сказала: «Все хотят иметь структуру, в рамках которой можно было бы работать. Я не думаю, что существует система управления, которая действительно учитывала бы эти вещи. Нам нужно над этим поработать»
Пип Уайт, глава Anthropic по Великобритании, Ирландии и Северной Европе, заявил, что интерес со стороны руководителей быстро возрос после появления новостей о данной модели. В интервью Пип сказал: «Мы вводим собственные меры предосторожности и ограничения в отношении этого продукта, потому что знаем, насколько мощным он может быть»
В четверг компания Anthropic также выпустила Opus 4.7, новую модель, разработанную для более эффективного решения задач в области разработки программного обеспечения. Компания заявила, что Opus 4.7 может выполнять некоторые виды работы по программированию, которые раньше требовали более тщательного контроля, лучше, чем старые модели, следовать инструкциям и анализировать изображения с более высоким разрешением, чтобы выявлять детали в сложных диаграммах и изображениях.
Тем не менее, Anthropic заявила, что Opus 4.7 менее функционален, чем Mythos, в том числе и в киберпространстве. В ходе обучения компания, по ее словам, тестировала способы «дифференцированного снижения» кибервозможностей модели.
