Трамп приказывает агентствам США прекратить использование ИИ Anthropic после этического спора в Пентагоне

Президент США Дональд Трамп внес Anthropic в черный список, предписав федеральный запрет на использование ее технологий после острого разногласия между ИИ-компанией и Пентагоном по вопросам применения этой технологии военными.

В данный момент переговоры между Anthropic и Министерством обороны зашли в тупик, так как обе стороны отказывались идти на компромисс, а срок для достижения соглашения приближался. Что касается запроса Пентагона, источники сообщили, что чиновники штаб-квартиры Министерства обороны США потребовали от Anthropic смягчить ее этические руководящие принципы; несоблюдение этого требования могло привести к серьезным последствиям. 

Тем временем Трамп опубликовал пост в Truth Social, изложив свою точку зрения по этому вопросу. В посте он отметил, что «левые экстремисты в Anthropic совершили УЖАСНУЮ ОШИБКУ, пытаясь ЗАСТАВИТЬ Министерство обороны следовать их Условиям обслуживания вместо нашей Конституции», далее добавив, что «МЫ будем определять будущее нашей страны — НЕ какая-то вышедшая из-под контроля радикальная левая ИИ-компания, возглавляемая людьми, которые не понимают, как устроен реальный мир». Примечательно, что в это время до истечения срока оставался всего один час.

Спор Anthropic и Пентагона вызывает опасения по поводу безопасности 

Ранее Anthropic отклонила просьбу представителей Пентагона разрешить подрядчикам использовать их системы для любых законных целей. На данный момент ИИ-компания отказалась смягчить ограничения, которые препятствовали Claude эффективному использованию систем для массовой внутренней слежки или создания полностью автономного оружия.

Учитывая остроту ситуации, Трамп охарактеризовал инцидент как серьезную угрозу для американских военнослужащих и национальной безопасности. В своем заявлении он заявил: «Их эгоизм ставит под угрозу жизни американцев, подвергает опасности наших солдат и ставит под удар национальную безопасность». 

После заявления Трампа в СМИ подчеркивалось, что генеральный директор OpenAI Сам Алтман предпринял усилия для успокоения ситуации. Тем не менее, многие аналитики признали, что снижение напряженности остается сложной задачей.

С другой стороны, министр обороны США Пит Хегсет заявил, что классификация Anthropic как риска в цепочке поставок может привести к разрыву связей между военными подрядчиками США и ИИ-компанией.

Хегсет сделал эти remarks примерно через 24 часа после того, как генеральный директор Anthropic Дарио Амодеи выпустил заявление, в котором утверждал, что его компания не может выполнить запрос Министерства обороны. По его словам, этот запрос противоречит совести Anthropic.

Эта ситуация побудила аналитиков провести исследование, которое показало, что спор о военном контракте касается использования ИИ в национальной безопасности. В то же время, после месяцев частных переговоров, ИИ-компания недавно решила сделать обсуждение публичным, отметив, что новый язык контракта, представленный как компромисс, был написан юридическим жаргоном, который фактически делал заявленные защиты уязвимыми для постоянного пренебрежения.

Генеративный ИИ набирает популярность среди многих компаний на фоне бума искусственного интеллекта 

Что касается острого конфликта между Anthropic и Пентагоном, в отчетах подчеркивалось, что сфера генеративного ИИ использует продвинутые модели для создания реалистичного, но неточного программного кода, текста, изображений и других результатов, которые тесно имитируют человеческое творчество. Для достижения этого результата некоторые источники отметили, что модели функционируют, выявляя скрытые закономерности в обучающих данных, чтобы генерировать контекстно-зависимые ответы на пользовательские запросы.

На данный момент стоит отметить, что генеративный ИИ выходит за рамки простого анализа, активно генерируя контент. Согласно исследованиям аналитиков, эта способность может революционизировать множество отраслей, включая оборонную промышленность. В то же время разработка таких моделей сопряжена с серьезными проблемами, включая этические вопросы и потенциальные экзистенциальные риски.

Тем не менее, многие компании продемонстрировали сильную приверженность выделению значительных средств в эту область. Например, представители Пентагона выпустили заявление прошлым летом, в котором заявили, что заключили индивидуальные контракты с крупными игроками отрасли, включая OpenAI, Anthropic, Google и xAI. Примечательно, что каждый контракт, как сообщалось, оценивался в 200 миллионов долларов, особенно для инициатив в области передового искусственного интеллекта.

В данный момент в отчетах подчеркивается, что Anthropic считает себя компанией, приверженной ответственной разработке и внедрению технологий ИИ. Чтобы подчеркнуть эту преданность, компания называет себя «Корпорацией общественной пользы» (Public Benefit Corporation), утверждая свою приверженность разработке и поддержанию безопасного, продвинутого ИИ на благо человечества.