Компания Anthropic одержала крупную юридическую победу: судья отменил черный список Пентагона, посвященный искусственному интеллекту

Федеральный окружной судья Рита Лин только что постановила, что Пентагон незаконно наложил на компанию Anthropic санкции, присвоив ей статус «риска в цепочке поставок». Ранее в этом году Пентагон объявил компанию угрозой национальной безопасности после того, как переговоры сорвались. В то время Anthropic все еще настаивала на этических нормах, запрещающих массовое наблюдение и полностью автоматизированную войну. 

Суд установил, что Министерство обороны использовало свои полномочия в области управления цепочками поставок для публичного привлечения компании Anthropic к ответственности, отметив, что у правительства отсутствовало какое-либо логическое обоснование для заявления о национальной безопасности.

«Ни Конституция, ни федеральный закон, на который ссылаются ответчики, не позволяют им налагать масштабные санкции, основываясь главным образом на критике компанией Anthropic взглядов администрации», — утверждал судья Лин.

Судья Лин раскритиковал решение правительства внести компанию Anthropic в черный список как произвольное

В течение некоторого времени Пентагон вел переговоры с четырьмя ведущими компаниями в области искусственного интеллекта, включая Anthropic, о разрешении военным использовать их технологии для проведения крайне важных оборонных и разведывательных операций. Однако компания Claude стояла на своем, утверждая, что массовое наблюдение и автономная война недопустимы для ее моделей.

После нарастающего напряжения переговоры полностью сорвались. В марте компания Anthropic была признана компанией, представляющей риск для цепочки поставок, что стало первым подобным случаем для американской компании и фактически запретило оборонным подрядчикамtracиспользовать ее технологии в проектах, связанных с Пентагоном

Позже компания Anthropic оспорила решение администрации Трампа в судах Сан-Франциско и Вашингтона, округ Колумбия, стремясь отменить присвоенный ей статус компании, представляющей риск для цепочки поставок. Однако Министерство обороны опиралось на два разных правовых основания, что вынудило Anthropic подавать отдельные иски в два разных суда.

 Хотя решение, вынесенное в четверг, стало огромной победой для Anthropic, параллельное дело в Вашингтоне остается активным, а это значит, что статус компании как объекта риска для безопасности еще не полностью устранен.

В своем постановлении судья Лин написала: «Бесспорные материалы дела показывают, что оспариваемые действия представляли собой незаконную месть в нарушение Первой поправки, и что компании Anthropic было отказано в процедуре предварительного лишения прав, предусмотренной Пятой поправкой». Она также назвала решение правительства произвольным и необоснованным. 

Это решение может создатьdent для споров между правительством и искусственным интеллектом

Возможно, это решение не имеет четкой логической последовательности, однако дело Anthropic будет иметь более непосредственные последствия: правительство США стремится углубить свои связи с компаниями, занимающимися искусственным интеллектом, в сфере обороны и национальной безопасности.

Этот случай показывает, что в условиях постоянно растущих требований к доступу к передовым системам искусственного интеллекта, которые компании стремятся защитить, вопрос о том, как и зачем использовать эти модели, вызывает сомнения.

Позиция компании Anthropic в отношении массового наблюдения и автономного оружия поставила ее в центр этой дискуссии. Компании, занимающиеся искусственным интеллектом, все чаще предоставляют правительствам мощные модели, но это решение суда предполагает, что федеральные агентства не могут просто наказывать компанию за несогласие с государственной политикой, не соблюдая при этом правовые требования, регулирующие такие действия.

Этот случай может также побудить других разработчиков ИИ более охотно устанавливать четкие ограничения на военное применение. В то же время Пентагону, возможно, придется пересмотреть свой подход к компаниям, которые вводят ограничения на использование своих технологий, особенно когда эти ограничения касаются спорных применений в сфере национальной безопасности.

Компания Anthropic с тех пор высоко оценила решение Лина. Она отметила: «Мы приветствуем решение суда о том, что присвоение статуса риска в цепочке поставок было незаконным. Мы по-прежнему сосредоточены на продуктивном сотрудничестве с правительством для использования ИИ в интересах национальной безопасности, чтобы все американцы могли извлечь выгоду из этой технологии»

Ранее компания также заявляла, что подала иски для того, чтобы вернуться к обычному режиму работы, а не для того, чтобы заставить Пентагон возобновить партнерство.

Компания Anthropic представляет новый аппаратный стандарт

Тем временем компания Anthropic разработала новый стандарт, который может помочь ИИ-помощникам взаимодействовать с роботами и специализированным оборудованием, используемым в лабораториях и на заводах. Компания запускает Model Hardware Standard (MHS) в качестве предварительной исследовательской версии, предоставляя разработчикам в области робототехники, науки и производства возможность протестировать взаимодействие Клода с реальными условиями и устранить ошибки безопасности до полного релиза. 

По данным компании, этот стандарт предоставит ИИ-помощникам четкий набор инструкций по пониманию и использованию физического оборудования, вместо того чтобы заставлять их полагаться на руководства или небольшую группу специалистов. Компания также заявила, что компании и другие заинтересованные стороны отрасли могут зарегистрироваться для тестирования MHS на этапе предварительного тестирования. После завершения предварительного тестирования планируется открыть исходный код фреймворка, но точная дата пока не сообщается. 

«Благодаря MHS Клод может стать своего рода помощником для ученых, поскольку они смогут использовать необходимое оборудование на профессиональном уровне», — говорит Джона Кул, руководитель отдела партнерских отношений и внедрения в подразделении биологических наук компании Anthropic. 

Опираясь на прошлые успехи, компания представила протокол контекста модели (MCP), чтобы преодолеть разрыв между ИИ-помощниками и такими программами, как Google Calendar и Slack. 

«То, что MCP сделала для мира программного обеспечения, MHS сделает для мира аппаратного обеспечения», — сказал Алек Кемени, технический сотрудник компании Anthropic.