Пентагон и компания Anthropic столкнулись из-за использования ИИ в военных целях в рамкахtracна сумму 200 миллионов долларов

Пентагон и компания Anthropic ведут прямую борьбу по вопросу о том, как искусственный интеллект может быть использован вооруженными силами США.

Конфликт сосредоточен на гарантиях, которые не позволят правительству использовать ИИ для самостоятельного наведения оружия или для ведения слежки внутри Соединенных Штатов. Разногласия касаютсяtracстоимостью до 200 миллионов долларов и зашли в тупик в переговорах.

Этот конфликт стал первым испытанием того, насколько велико реальное влияние Силиконовой долины в Вашингтоне после многих лет напряженности.

Представители оборонного и разведывательного ведомств хотят свободы в использовании болееtronинструментов искусственного интеллекта в боевых действиях и обеспечении безопасности. Лидеры технологической отрасли хотят ограничений. Переговоры затянулись на несколько месяцев и теперь зашли в тупик.

Пентагон продолжает наступление, в то время как компания Anthropic выступает против применения оружия

После долгих переговоров Министерство обороны США и компания Anthropic зашли в тупик. Шесть человек, осведомленных о ходе переговоров, заявили, что ни одна из сторон не пошла на уступки. Конфликт обострился во время второго срокаdent Дональда Трампа, и разногласия внутри администрации теперь выносятся на всеобщее обозрение.

В своем заявлении компания Anthropic сообщила, что ее технология «широко используется правительством США в целях национальной безопасности, и мы ведем продуктивные переговоры с Министерством обороны о способах продолжения этой работы». В то же время представители компании заявили официальным лицам, что опасаются, что эти инструменты могут быть использованы для слежки за американцами или для нанесения ударов по целям без достаточного контроля со стороны человека.

Руководство Пентагона отвергло эти ограничения. Они сослались на меморандум от 9 января о стратегии в области ИИ, в котором говорится, что военные должны иметь возможность свободно использовать коммерческие системы ИИ при условии соблюдения закона. Чиновники заявили, что частные правила не должны определять решения на поле боя.

Тем не менее, Пентагону по-прежнему необходима компания Anthropic для дальнейшего развития. Модели созданы таким образом, чтобы избегать действий, которые могут причинить вред. Инженерам компании придется доработать системы, прежде чем военные смогут использовать их так, как им нужно.

Противостояние ставит под угрозу оборонный бизнес Anthropic в этот непростой момент. Стартап из Сан-Франциско готовится к будущему публичному размещению акций. Компания вложила значительные средства в получение заказов от США в сфере национальной безопасности и в формирование федеральной политики в области искусственного интеллекта изнутри.

Компания Anthropic также входит в число немногих фирм, выбранных Пентагоном в прошлом году. В число других входят Google, xAI Илона Маска и OpenAI. Эти компании сейчас находятся в центре планов США в области искусственного интеллекта.

Осторожность со стороны Anthropic уже вызывала трения с администрацией Трампа. В своем блоге на этой неделе генеральный директор Дарио Амодей предупредил, что ИИ должен поддерживать национальную оборону «во всех отношениях, кроме тех, которые сделают нас больше похожими на наших авторитарных противников»

Дарио также высказывался о применении силы правительством внутри страны. После смертельных случаев стрельбы по гражданам США во время протестов против иммиграции в Миннеаполисе он назвал эти смерти «ужасными» в посте на X.