Anthropic отправляет ведущих экспертов по безопасности в Вашингтон, чтобы спасти флагманские модели

После сообщения Cryptopolitan о наложенном федеральном запрете на экспорт продажи своего программного обеспечения для ИИ пользователям, не являющимся американцами, Anthropic направила исследователей по безопасности и модели ИИ в Вашингтон.

Понедельничные встречи стали первыми личными переговорами между стартапом и старшими должностными лицами администрации Трампа с момента вступления директивы в силу.

Белый дом не ожидает, что спор исчезнет в течение нескольких дней, хотя чиновники не исключают быстрого урегулирования.

Согласно Politico, один из старших должностных лиц возложил вину на компанию, сказав: «Это зависит от Anthropic». Ограничение было введено из-за возможных уязвимостей в безопасности новой модели и теперь блокирует доступ не-американских пользователей к передовым технологиям компании.

Anthropic отправляет свою команду по безопасности, чтобы объяснить защиту модели

Anthropic провела выходные, пытаясь не допустить роста проблемы, так как соучредитель Том Браун и Сара Хек, возглавляющая вопросы общественной политики в компании, участвовали в длительных телефонных разговорах с министром торговли Говардом Лутником и национальным директором по кибербезопасности Шоном Керкроссом.

Эти коммуникации привели к встречам в понедельник с участием Министерства торговли и офиса Керкросса. Персонал позаботился о проведении обсуждений. Одним из таких чиновников был Крис Фолл, который возглавляет Центр стандартов и инноваций в области ИИ при Министерстве торговли.

На встрече Anthropic подробно представила федеральным сотрудникам меры безопасности, окружающие модель. Она рассказала о тестировании систем, поиске уязвимостей и ограничении нежелательного поведения перед выпуском продукта. Это было направлено на то, чтобы убедить Вашингтон в том, что она может предлагать модель за рубежом, не представляя никакой угрозы национальной безопасности.

Компания направила Логана Грэма из Frontiers Red Team, где он тестирует системы, пытаясь взломать их защиту. К нему присоединился Дэйв Орр, глава службы безопасности. Николас Карлини, ведущий исследователь по безопасности компании, также входил в состав делегации.

Действия правительства уже устранили иностранный доступ к самым сильным моделям Anthropic. Это также создало неопределенность относительно того, могут ли федеральные чиновники остановить выпуск ИИ после того, как компания пройдет систему добровольного обзора.

Чиновники Трампа защищают директиву, в то время как лидеры отрасли предупреждают о более широком ущербе

Последняя исполнительная директива Трампа по ИИ потребовала, чтобы крупные технологические компании направляли свои новые модели на оценку правительству за 30 дней до их выпуска. Участие было полностью добровольным. В окончательной форме директива отменила предыдущие предложения, которые бы заставили модели ИИ проходить государственное одобрение или лицензирование перед их запуском.

Дэвид Сакс, венчурный капиталист, консультировавший администрацию Трампа по вопросам ИИ, участвовал в разработке политики и все еще имеет связи с президентом. Действия против Anthropic вызвали опасения в администрации о том, что правительство тайно разрабатывает процесс одобрения, которого стремилась избежать данная директива.

Согласно Кушу Десаи, представителю Белого дома, администрация работает с лидерами отрасли ИИ, чтобы обеспечить учет интересов инноваций и национальной безопасности.

Каш также сказал: «Соединенные Штаты являются безоговорочным мировым лидером в глобальной гонке ИИ, и президент Трамп привержен обеспечению технологического доминирования Америки».

Один из чиновников администрации заявил, что конфликт все еще может соответствовать исполнительной директиве, если ограничение будет снято быстро. «Если это утихнет, если ограничения будут сняты завтра, то я бы сказал: «О, хорошо, это все еще как-то согласуется с исполнительной директивой, и мы просто продолжим», — сказал чиновник.

Тот же человек провел более жесткую линию, если запрет останется. «Если ситуация все еще будет [мат] через неделю, то я думаю, у нас есть четкое понимание того, что происходит».

Этот чиновник предположительно назвал затяжной конфликт «огромной проблемой» для сектора ИИ США и предупредил, что каждый будущий разработчик моделей может оказаться перед необходимостью получать разрешение от Вашингтона перед запуском. «Это чрезвычайно плохая ситуация, и она полностью парализует всю отрасль», — сказал чиновник. «Это действительно поставит всю отрасль ИИ в невыгодное положение и создаст проблемы с наймом и удержанием исследователей ИИ».