Пентагон США усиливает переговоры с ведущими компаниями в сфере ИИ о развертывании инструментов на классифицированных системах

Пентагон оказывает реальное давление на крупные компании в области искусственного интеллекта, требуя предоставить вооруженным силам США доступ к их инструментам внутри классифицированных систем.

Чиновники просят не просто базовый доступ. Они хотят, чтобы эти модели ИИ работали без всех обычных ограничений, которые компании устанавливают для пользователей.

На встрече в Белом доме во вторник Эмиль Майкл, главный технологический директор Пентагона, сообщил технологическим лидерам, что военные хотят, чтобы эти модели ИИ работали как в классифицированных, так и в неклассифицированных сетях.

По словам официального лица, близкого к переговорам, правительство теперь намерено внедрить то, что оно называет «передовыми возможностями ИИ», на всех уровнях военного использования.

Пентагон требует доступа без ограничений в защищенных сетях

Этот шаг является частью более широких дискуссий о том, как ИИ будет использоваться в будущих боевых действиях. Войны уже формируются под влиянием роев дронов, роботов и непрерывных кибератак. Пентагон не хочет отставать, пока технологический мир проводит линии вокруг того, что разрешено.

Сейчас большинство компаний, работающих с военными, предлагают упрощенные версии своих моделей. Они работают только на открытых, неклассифицированных системах, используемых для административных задач. Anthropic — единственное исключение.

Claude, его чат-бот, можно использовать в некоторых классифицированных настройках, но только через сторонние платформы. Даже в этом случае правительственные пользователи все еще должны следовать правилам Anthropic.

То, чего хочет Пентагон, — это прямой доступ внутри высококонфиденциальных классифицированных сетей. Эти системы используются для таких вещей, как планирование миссий или наведение целей. Неясно, когда и как чат-боты, такие как Claude или ChatGPT, будут установлены в этих сетях, но это цель.

Чиновники считают, что ИИ может помочь обрабатывать огромные объемы данных и быстро передавать их лицам, принимающим решения. Но если эти инструменты генерируют ложную информацию, а они это делают, люди могут погибнуть. Исследователи предупреждали именно об этом.

OpenAI заключила сделку с Пентагоном на этой неделе. ChatGPT теперь будет использоваться в неклассифицированной сети под названием genai.mil. Эта сеть уже охватывает более 3 миллионов сотрудников Министерства обороны.

В рамках сделки OpenAI убрала многие из своих обычных ограничений на использование. Некоторые защитные механизмы все еще действуют, но Пентагон получил большую часть того, чего хотел.

Представитель компании заявил, что любое расширение на классифицированные системы потребует новой сделки. Google и xAI Илона Маска ранее заключали аналогичные соглашения.

Исследователи ИИ увольняются и предупреждают об опасностях

Переговоры с Anthropic не были такими легкими. Руководители компании заявили Пентагону, что не хотят, чтобы их технология использовалась для автоматического наведения или слежки за людьми внутри США.

Несмотря на то, что Claude уже используется в некоторых миссиях национальной безопасности, руководители компании оказывают сопротивление. В заявлении представитель сказал:-

«Anthropic привержена защите лидерства Америки в области ИИ и помощи правительству США в противодействии иностранным угрозам, предоставляя нашим военнослужащим доступ к самым передовым возможностям ИИ».

Они заявили, что Claude уже используется, и компания все еще тесно сотрудничает с тем, что теперь называется Министерством войны. Президент Дональд Трамп недавно приказал Министерству обороны принять это название, но Конгресс все еще должен его утвердить.

Пока все это происходит, ряд исследователей в этих компаниях увольняются. Один из ведущих исследователей систем безопасности Anthropic сказал: «Мир в опасности», уходя в отставку. Исследователь из OpenAI также ушел, заявив, что технология имеет «потенциал для манипулирования пользователями способами, которые мы не понимаем, не говоря уже о том, чтобы предотвратить».

Некоторые из уходящих делают это не тихо. Они предупреждают, что все движется слишком быстро, а рисками пренебрегают. Зо Хитциг, проработавшая в OpenAI два года, ушла на этой неделе.

В эссе она написала, что у нее есть «глубокие опасения» по поводу того, как компания планирует внедрять рекламу. Она также сказала, что ChatGPT хранит личные данные людей, такие как «медицинские страхи, проблемы в отношениях, их вера в Бога и загробную жизнь».

Она сказала, что это огромная проблема, потому что люди доверяют чат-боту и не думают, что у него есть скрытые мотивы.

Примерно в то же время технологический сайт Platformer сообщил, что OpenAI распустила свою команду по выравниванию миссий. Эта группа была создана в 2024 году, чтобы убедиться, что цель компании по созданию ИИ, помогающего всему человечеству, действительно что-то значит.