Компания Anthropic defiжестокому ультиматуму Пентагона об отмене мер защиты ИИ

Компания Anthropic заявила, что не отступит в борьбе с Министерством обороны США по вопросу использования своих технологий искусственного интеллекта (ИИ).

стартапа, компании Конкуренты OpenAI, Google и xAI, также получилиtracна сумму до 200 миллионов долларов. Эти компании согласились разрешить Министерству обороны использовать их модели для всех законных целей в рамках несекретных военных систем.

В июле компания Anthropic заключила с Министерством обороны СШАtracна сумму 200 миллионов долларов и стала первой лабораторией, интегрировавшей свои модели в рабочие процессы в секретных сетях.

Однако в последние недели стартап, занимающийся разработкой искусственного интеллекта, ведет напряженные переговоры с Пентагоном. Источник, знакомый с ходом переговоров, сообщил, что напряженность «нарастает уже несколько месяцев», еще до того, как стало известно об использовании Клода в рамках операции США по захвату президента Венесуэлыdent Мадуро.

Основной спор касается наблюдения и автономного оружия.

Компания Anthropic хочет получить гарантии того, что ее модели не будут использоваться для создания полностью автономного оружия или для массового внутреннего наблюдения за американцами, в то время как Министерство обороны хочет иметь возможность использовать эти модели без таких ограничений.

Что касается этих конкретных рисков, Дарио Амодей в своем заявлении сказал: «В узком круге случаев мы считаем, что ИИ может скорее подорвать, чем защитить демократические ценности. Некоторые варианты использования также просто выходят за рамки того, что современные технологии могут безопасно и надежно делать».

Развивая опасения по поводу слежки, Дарио Амодей в своем заявлении отметил, что мощный искусственный интеллект позволяет «автоматически и в огромных масштабах собрать эти разрозненные, по отдельности безобидные данные в целостную картину жизни любого человекаmatic.

Он отметил, что, хотя организация Anthropic поддерживает использование ИИ для законной внешней разведки, «использование этих систем для массового внутреннего наблюдения несовместимо с демократическими ценностями».

Угрозы, сроки и словесная война

Министр обороны Пит Хегсет, который встретился с Амодеи в Пентагоне во вторник, пригрозил объявить компанию Anthropic «угрозой для цепочки поставок» или применить Закон об оборонном производстве, чтобы заставить компанию выполнить его требования. Министерство обороны направило Anthropic свое «последнее и окончательное предложение» в среду вечером, дав компании время до 17:01 по восточному времени в пятницу для принятия решения.

Представительница компании Anthropic заявила , что, хотя компания получила обновленную формулировку в среду вечером, это «практически не представляет никакого прогресса», и что «новые формулировки, представленные в видекомпромисса, были дополнены юридическими терминами, которые позволяют игнорировать эти гарантии по своему усмотрению».

Комментируя это давление, Дарио Амодей заявил :«Министерство обороны заявило, чтотолькоtracс компаниями, занимающимися искусственным интеллектом, которые согласятся на «любое законное использование» и снимут меры защиты в вышеупомянутых случаях. Они пригрозили удалить нас из своих систем, если мы сохраним эти меры защиты; они также пригрозили присвоить нам статус « риска для цепочки поставок»… Тем не менее, эти угрозы не меняют нашей позиции: мы не можем с чистой совестью удовлетворить их просьбу».

Главный пресс-секретарь Пентагона Шон Парнелл заявил в четверг, что Министерство обороны «не заинтересовано» в использовании моделей Anthropic для создания полностью автономного оружия или для проведения массового наблюдения за американцами, что, как он отметил, является незаконным. Он подчеркнул, что ведомство хочет, чтобы компания согласилась разрешить использование своих моделей «для всех законных целей», назвав это «простой и разумной просьбой».

Однако заместитель министра обороны СШАЭмильМайкл , что этот руководитель «больше всего на свете хочет лично контролировать вооруженные силы США». Майкл добавил: «Жаль, что Дарио Амодеи лжец и страдает комплексом бога»

С другой стороны, в открытом письмеболее 200 сотрудников Google и OpenAI поддержали позицию Anthropic. Бывший сотрудник Министерства обороны также заявил BBC, что обоснования Хегсета для использования термина «риск в цепочке поставок» были «крайне неубедительными».

Несмотря на конфликт, Дарио Амодей в своем заявлении отметил, что он «глубоко осознает экзистенциальную важность использования ИИ для защиты Соединенных Штатов». Организация по-прежнему «готова продолжить переговоры и привержена обеспечению оперативной непрерывности для Министерства обороны и американских военнослужащих», — заявил представитель Anthropic.