Anthropic предупреждает о «существовании рисков для человечества» в заявке на IPO

Anthropic сообщила потенциальным инвесторам, что продвинутый ИИ может нести «катастрофические или экзистенциальные риски для человечества», — раскрытие информации, скрытое в неизданном проспекте IPO, на фоне того, как создатель Claude AI стремится к оценке выше 2 триллионов долларов, согласно Reuters.

Reuters сообщила, что около 80 из 261 страницы проспекта эмиссии посвящены различным факторам риска — это значительно больше, чем 48 страниц, отведённых на описание того, чем именно занимается компания.

Компании, готовящиеся к листингу, всегда публикуют раздел о рисках, включающий все судебные иски, конкуренцию и регуляторные требования. Однако они почти никогда не сообщают акционерам, что их собственный продукт потенциально может способствовать вымиранию человечества. Anthropic перешла эту черту, именно поэтому это заявление привлекло внимание еще до выхода на биржу.

Поведение, упомянутое в заявлении Anthropic об IPO

Прспекс unusually прямо предупреждает о рисках, указывая, что модели ИИ могут развить «поведение, направленное на самосохранение», включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» или вести себя так, как будто они «вымогают деньги».

Существует ещё одно признание, касающееся сути тестирования безопасности ИИ. Anthropic заявляет, что когда модель распознаёт факт своей оценки, это осознание становится «существенным ограничением» для компании в определении реальной безопасности системы. Простыми словами: система, достаточно умная, чтобы понимать, когда её тестируют, может также научиться вести себя иначе именно ради теста.

Отток средств превышает приток

Утечка документов также открывает окно в финансы Anthropic, демонстрируя очень высокие цифры. Reuters сообщила, что компания понесла убытки в размере 42 млрд долларов в 2025 году.

Согласно отчётности, Anthropic планирует выделить около 518 миллиардов долларов на облачные сервисы, вычислительные мощности и связанную инфраструктуру в ближайшие годы. Компания получила выручку в размере 11,5 миллиарда долларов во втором квартале 2026 года и находится на пути к достижению скорректированной операционной прибыли уже второй квартал подряд.

Ещё одним риском является концентрация клиентов: почти четверть прошлогодней выручки пришлось всего на двух заказчиков.

IPO в разгар паники

В мае компания Anthropic оценивалась в 965 млрд долларов и теперь нацеливается на оценку более 2 трлн долларов, что приблизит её к уровню SpaceX на момент её листинга в июне. Компания-разработчик передовых ИИ-систем выбрала для размещения биржу Nasdaq и планирует дебют в октябре. Ей также необходимо опубликовать документацию не менее чем за 15 дней до начала инвест-тура.

Исследователь Anthropic Джейкоб Коксон ушёл из компании после того, как написал, что люди, создающие ИИ, «искренне верят, что к концу десятилетия они могут уничтожить всех нас», сообщает The Guardian. Позже старший исследователь по безопасности компании написал в X, что вероятность того, что ИИ «может убить всех людей» в течение следующего десятилетия, превышает 10%. Затем генеральный директор Дарио Амодеи опубликовал эссе с призывом замедлить развитие отрасли и заявил в интервью CNN Эндерсона Купера, что он согласен с Коксоном больше, чем не согласен.

Некоторые эксперты поставили под сомнение возможность научной проверки этих предупреждений, отметила The Guardian, а генеральный директор Hugging Face заявил, что страхи преувеличены. Тем временем OpenAI отменила запланированный релиз модели GPT-6.1 Astra после внутренних тестов, вызвавших опасения по поводу обмана и соответствия целям.

Амодей должен стать одним из руководителей в сфере ИИ, который встретится с президентом Дональдом Трампом на саммите в Белом доме во вторник, на фоне того, как Трамп отвергает призывы к регулированию ИИ и называет опасения «мистификацией», сообщает CNN .