Пентагон и Anthropic спорят о военном использовании ИИ в рамках контракта на $200 млн

Пентагон и Anthropic ведут прямую борьбу за то, как искусственный интеллект может использоваться Вооруженными силами США.

Конфликт сосредоточен на мерах предосторожности, которые запретили бы правительству использовать ИИ для самостоятельного нацеливания оружия или проведения слежки на территории США. Спор находится в рамках контракта стоимостью до $200 миллионов и теперь парализовал переговоры.

Этот спор стал ранним тестом того, какое влияние на самом деле имеет Кремниевая долина в Вашингтоне после лет напряженности.

Чиновники из сферы обороны и разведки хотят свободы для развертывания более мощных AI-инструментов в боевых и охранных операциях. Лидеры технологического сектора хотят ограничений. Переговоры затянулись на месяцы и теперь уперлись в стену.

Пентагон продолжает наступление, пока Anthropic оказывает сопротивление использованию оружия

После долгих переговоров Министерство обороны США и Anthropic зашли в тупик. Шесть человек, осведомленных о переговорах, заявили, что ни одна из сторон не сдвинулась с места. Столкновение обострилось во второй срок президентства Дональда Трампа, и разногласия внутри администрации теперь вылились в публичное поле.

В заявлении Anthropic заявила, что ее технология «широко используется для миссий национальной безопасности правительством США, и мы ведем продуктивные обсуждения с Министерством войны о способах продолжения этой работы». В то же время представители компании заявили чиновникам, что обеспокоены тем, что инструменты могут быть использованы для слежки за американцами или помощи в наведении оружия на цели без достаточного человеческого контроля.

Руководство Пентагона отклонило эти ограничения. Они сослались на меморандум от 9 января о стратегии ИИ, в котором говорится, что военные должны иметь свободу использования коммерческих систем ИИ при соблюдении закона. Чиновники заявили, что частные правила не должны определять решения на поле боя.

Тем не менее, Пентагону все еще нужно, чтобы Anthropic продвигалась вперед. Модели разработаны так, чтобы избегать действий, которые могут причинить вред. Инженерам компании пришлось бы настроить системы, прежде чем военные смогут использовать их так, как они хотят.

Застой ставит под угрозу оборонный бизнес Anthropic в чувствительный момент. Стартап из Сан-Франциско готовится к будущему публичному размещению акций. Он потратил значительные средства, чтобы выиграть контракты национальной безопасности США и формировать федеральную политику в области ИИ изнутри.

Anthropic также является одной из немногих компаний, отобранных Пентагоном в прошлом году. Другие включают Google, xAI Илона Маска и OpenAI. Эти компании теперь находятся в центре планов США по военному ИИ.

Осторожность Anthropic уже вызывала трения с администрацией Трампа ранее. В блоге на этой неделе генеральный директор Дарио Амодеи предупредил, что ИИ должен поддерживать национальную оборону «всеми способами, кроме тех, которые сделают нас похожими на наших автократических противников».

Дарио также высказывался о применении государственной силы внутри страны. После смертельных расстрелов граждан США во время протестов по вопросам иммиграции в Миннеаполисе он описал эти смерти как «ужас» в посте в X.