Anthropic игнорирует жестокий ультиматум Пентагона об отказе от мер безопасности ИИ

Anthropic заявил она не отступит в споре с Министерством обороны США (Минобороны) о том, как используется ее технология искусственного интеллекта (ИИ).

Конкуренты стартапа , такие как OpenAI, Google и xAI , также получили контракты Министерства обороны США на сумму до 200 миллионов долларов в прошлом году. Эти компании согласились позволить Министерству обороны использовать свои модели для всех законных целей в неклассифицированных системах военных.

Anthropic подписала собственный контракт с Минобороны на сумму 200 млн долларов в июле и стала первой лабораторией, интегрировавшей свои модели в рабочие процессы миссий на засекреченных сетях.

Однако стартап в области искусственного интеллекта в последние недели участвовал в напряженных переговорах с Пентагоном. Человек, знакомый с переговорами, сказал, что напряженность «возникла несколько месяцев назад», до того, как стало публично известно, что Claude использовался в рамках операции США по задержанию президента Венесуэлы Николаса Мадуро.

Суть спора из-за слежка и автономные оружие

Anthropic хочет гарантий, что ее модели не будут использоваться для создания полностью автономного оружия или массовой внутренней слежки за американцами, в то время как Минобороны хочет иметь возможность использовать модели без этих ограничений.

Что касается этих конкретных рисков, Дарио Амодеи заявил в своём заявлении: «в узком наборе случаев мы считаем, что ИИ может подрывать, а не защищать демократические ценности. Некоторые виды использования также просто выходят за рамки того, что сегодняшние технологии могут делать безопасно и надёжно».

Расширяя опасения по поводу слежки, Дарио Амодэй сказал в своем заявлении, что мощный ИИ позволяет «собирать эти разрозненные, индивидуально безобидные данные в всеобъемлющую картину жизни любого человека, автоматически и в массовых масштабах.»

Он отметил, что, хотя Anthropic поддерживает использование ИИ для законной внешней разведки, «использование этих систем для массовой внутренней слежки несовместимо с демократическими ценностями.»

Угрозы, дедлайны и война слов

Министр обороны Пит Хегсет, который встретился с Амодэем в Пентагоне во вторник, пригрозил классифицировать Anthropic как «риск цепочки поставок» или применить Закон о производстве обороны для принуждения компании к выполнению своих требований. Министерство обороны отправило Anthropic свое «последнее и окончательное предложение» в ночь на среду, дав компании до 17:01 по восточному времени в пятницу для принятия решения.

Представительница Anthropic заявила , что, хотя компания получила обновлённую формулировку в среду вечером, она представляет «почти никакого прогресса», а «новая формулировка, описывающая aс compromise, была сопряжена с юридическим жаргоном, который позволял бы по произволу игнорировать эти меры защиты».

Отвечая на это давление, Дарио Амодэй сказал в своем заявлении: «Министерство войны заявило, что будет заключать контракты только с компаниями ИИ, которые согласятся на «любое законное использование» и уберут гарантии в упомянутых выше случаях. Они пригрозили исключить нас из своих систем, если мы сохраним эти гарантии; они также пригрозили классифицировать нас как «риск цепочки поставок …» Тем не менее, эти угрозы не меняют нашу позицию: мы не можем по совести согласиться с их требованием.»

Главный представитель Пентагона Шон Парнелл заявил в четверг, что Минобороны не «заинтересовано» в использовании моделей Anthropic для полностью автономного оружия или для проведения массовой слежки за американцами, что, как он отметил, является незаконным. Он подчеркнул, что агентство хочет, чтобы компания согласилась разрешить использование своих моделей для «всех законных целей», называя это «простым, здравомыслящим запросом».

Однако заместитель госсекретаря США по обороне Эмили Майкл в четверг вечером лично атаковал Амодеи, написав в X, что исполнительный директор «ничего больше не хочет, кроме как попытаться лично контролировать Вооруженные силы США». Майкл добавил: «Жаль, что Дарио Амодеи — лжец и страдает комплексом Бога.»

С другой стороны, в открытом письме более 200 сотрудников Google и OpenAI поддержали позицию Anthropic. Бывший чиновник Минобороны также заявил BBC, что обоснования Хегсета для использования термина «риск цепочки поставок» были «крайне шаткими».

Несмотря на конфликт, Дарио Амодеи заявил в своем заявлении, что он «глубоко осознает экзистенциальную важность использования ИИ для защиты Соединенных Штатов». «Организация по-прежнему готова продолжать переговоры и привержена обеспечению оперативной непрерывности для Министерства и американских военнослужащих», — заявил представитель Anthropic.