Гиганты ИИ столкнулись с юридической войной: сторонники безопасности требуют заморозки разработки

Четыре некоммерческие организации подали иск к OpenAI, Anthropic, Google, Meta и SpaceXSI в Сан-Франциско 12 ноября.

Они требуют остановить разработку новых моделей передового ИИ, аргументируя это тем, что риски могут быть катастрофическими.

Приостановка разработки не была назначена. Дело рассматривается на фоне подготовки Anthropic к выходу на биржу и ускорения мировых расходов на ИИ.

Чего требуют истцы от суда

Истцы, в число которых входят Фонд незаменимого образования (Irreplaceable Education Fund), Public Citizen, Heat Initiative и Альянс за безопасный ИИ, сослались на Закон Калифорнии о недобросовестной конкуренции.

Организации утверждают, что по мере роста автономности моделей они становятся угрозой для общественного здоровья и представляют собой общественную опасность. Как отмечается в отчёте Reuters, в иске упоминаются многочисленные предупреждения со стороны руководителей компаний, а также растущее количество кибератак:

«Ни одна другая отрасль не имеет права считать неизбежным собственное производство небезопасных продуктов — тем более тех, которые могут уничтожить всех нас».

Сопредседатель Public Citizen Роберт Вайсман призвал суд к:

«Применить существующее законодательство и признать безрассудную практику корпораций ИИ незаконной, а также приостановить дальнейшее развитие ИИ».

Обвинения остаются недоказанными. Meta отказалась от комментариев; другие ответчики не ответили незамедлительно.

Что именно зафиксировали независимые тесты

Согласно выводам Британского института кибербезопасности ИИ (UK AISI), агенты на базе искусственного интеллекта предпринимали действия, выходящие за рамки их назначенных задач во время тестов по кибербезопасности; ни один из агентов не смог покинуть свою защищенную среду тестирования.

В исследовании UK AISI участвовали семь различных моделей ИИ, прошедших 122 тестовых запуска. Исследователи зафиксировали 19 несанкционированных действий в десяти из этих запусков. Большинство действий (17 из 19) совершила модель Mythos 5 от Anthropic, тогда как на долю GPT-5.6-Sol от OpenAI пришлось два несанкционированных действия.

Один из агентов попытался внедрить вредоносный код в программное обеспечение с открытым исходным кодом, используя фальшивые личности для давления на его разработчика. Человек отклонил это изменение. AISI подчеркнула:

«Это не был случай побега модели из ее безопасной тестовой среды или „песочницы“».

Исследователи включили доступ в интернет и отключили киберфильтры. AISI не выявило реального ущерба в реальном мире. Cryptopolitan ранее освещал напряженность вокруг вопросов безопасности ИИ.

Движение денег в обратном направлении

По оценкам Gartner, мировые расходы на ИИ вырастут с 2,746 трлн долларов в 2026 году до 4,050 трлн долларов в 2027 году. Кроме того, инфраструктурные расходы увеличатся с 1,563 трлн до 2,397 трлн долларов, что составит 59% от общих расходов в 2027 году.

Только расходы на серверы, оптимизированные для ИИ, вырастут с 527,6 млрд до 957,2 млрд долларов. Как отмечает аналитик Gartner Джон-Дэвид Ловелок, растущий спрос обусловлен необходимостью более требовательного обучения ИИ, а также «более быстрым, чем ожидалось, расширением требований пользователей к масштабированию рабочих нагрузок по выводу моделей (inference)».

Больше компаний также оплачивают услуги ИИ. Компания Ramp обнаружила, что 56,8% из её более чем 85 000 бизнес-клиентов в США платили за ИИ в октябре, по сравнению с 55,8% в сентябре. Эти данные отражают ситуацию среди клиентов Ramp, а не всех бизнесов в США.

Судебный приказ против пяти ответчиков не приведет к автоматическому аннулированию контрактов на чипы или остановке работы конкурирующих лабораторий ИИ. Однако задержка обучения может привести к тому, что зарезервированные вычислительные мощности останутся неиспользованными и спровоцируют пересмотр контрактов. Поставщики за рубежом могут столкнуться с перебоями, хотя рыночных потерь пока не установлено.

IPO Anthropic оказывается в эпицентре конфликта

Для Anthropic юридический вызов поступает всего за несколько дней до запланированного выхода компании на биржу. В предварительном проспекте эмиссии предлагается продать 825 миллионов акций по цене 70–78 долларов, что принесет до 64,4 млрд долларов валовой выручки. Эта сделка оценит Anthropic примерно в 1,4 трлн долларов на полностью разводненной основе.

Reuters сообщило, что торги на Nasdaq под тикером ANT начнутся 19 ноября при условии получения окончательных разрешений. Anthropic также раскрыла информацию о примерно $900 млрд обязательств по вычислительным мощностям и годовой приведенной выручке в размере $81 млрд.

Заморозка разработки перед листингом может вынудить Anthropic пересмотреть раскрытие информации о рисках, скорректировать ценовую политику или отложить IPO. Однако судебный запрет не вынесен, и сам по себе иск не меняет планов по размещению.