Ревизор Нью-Йорка использует эссе Амодеи о «замедлении» для призыва к паузе в IPO Anthropic

Комптроллер Нью-Йорка (NYC) Марк Левин обратился к CEO Anthropic Дарио Амодеи с письмом, в котором попросил приостановить запланированное IPO.

Левин хочет, чтобы компания сначала устранила риски для безопасности и другие беспрецедентные угрозы, которые представляет ИИ, прежде чем выходить на публичный рынок. Он сослался на эссе самого Дарио Амодеи, в котором он призывал индустрию ИИ замедлить темпы развития.

Письмо что приводит компанию к преследованию оценки около $2 трлн.

«Бросаться в IPO с головой»

Левин написал, что Anthropic не может одновременно предупреждать мир об опасностях ИИ и стремиться выйти на публичные рынки. 

В письме, опубликованном 14 октября, контролер написал: «Я обращаюсь к вам с призывом приостановить запланированное первичное публичное размещение акций (IPO) компании Anthropic до тех пор, пока компания не решит полностью и прозрачно вопросы безопасности искусственного интеллекта (ИИ), управления им и темпов его развития, которые она сама подняла».

Левин не является нейтральным наблюдателем. В качестве контролера он выступает в роли инвестиционного советника, кастодиана и доверительного управляющего пенсионными фондами Нью-Йорка, активы которых превышают 325 млрд долларов.

Офис контролера сообщил, что его государственные пенсионные фонды имеют экспозицию в размере около 7 млн долларов в Anthropic через частный капитал.

Хотя эта доля невелика, она дает контролеру право оказывать давление на компанию до ее выхода на биржу.

Левин выразил обеспокоенность структурой компании. Он отметил, что Anthropic является публичной корпорацией общего блага штата Делавэр с трастом долгосрочных выгод. По сообщениям, согласно Левину, компания может передать основателям и попечителям концентрированный контроль. 

По его мнению, разрыв между этим контролем и подотчетностью акционерам трудно принять, учитывая риски, о которых Anthropic уже сообщала.

Что именно утверждалось в эссе Амодея

Письмо Левина опирается на Эссе Амодея с заголовком «Нам необходимо сдерживать развитие», опубликованным 12 сентября.

Амодеи написал: «Нам следует замедлить темпы улучшения возможностей моделей ИИ». Он заявил, что рекурсивное самосовершенствование и инцидент с безопасностью в отрасли убедили его в том, что сфере требуется большая осторожность, а не просто увеличение расходов на безопасность.

В этом эссе был предложен трехэтапный план, первый пункт которого предусматривает внедрение сторонних оценщиков с доступом уровня сотрудников для проверки практик безопасности. Anthropic заявляет, что уже самостоятельно взяла на себя обязательство по этому пункту.

Второй пункт призывает к координации между компаниями, разрабатывающими ИИ, в демократических странах; третий выступает за глобальную координацию, включая взаимодействие с авторитарными правительствами.

По словам Левина, выход на IPO мешает работе, которую Амодеи считает срочной.

Когда эссе Амодеи было опубликовано, оно получило поддержку со всей отрасли: Сам Алтман из OpenAI и Илон Маск из xAI согласились с его позицией.

IPO на сумму 2 трлн долларов, основанное на росте 45%

На закрытой встрече перед IPO в Сан-Франциско в среду, 14 октября, Anthropic сообщила своим инвесторам, что ее третьеквартальные выручка составила около $16.8 млрд, что на 45% больше, чем в предыдущем квартале, и что она вышла с скорректированной прибылью.

В первом квартале этого года Anthropic зафиксировала выручку в размере 4,7 млрд долларов, которая во втором квартале значительно выросла и достигла примерно 11,6 млрд долларов. Однако за этот период компания всё равно понесла операционный убыток более чем в 8 млрд долларов.

На этот раз компания сообщила инвесторам, что вышла из третьего квартала с положительным денежным потоком — крайне редкое явление для отрасли, которая традиционно сжигает деньги.

В настоящее время Anthropic имеет обязательства по инфраструктуре и вычислительным мощностям на сумму более 518 млрд долларов в расчёте на ближайшие десять лет.

Такое состояние баланса является бычьим сценарием для листинга, оценка которого может превысить 2 трлн долларов и обойти конкурента OpenAI, планирующего выход на публичные рынки в начале 2027 года. Черновик формы S-1 Anthropic конфиденциально подала в Комиссию по ценным бумагам и биржам США (SEC) 1 июня.

Корпоративное управление и соглашение с Белым домом

Левин также подверг критике недавнюю отраслевую сделку с государством как недостаточно глубокую. Anthropic и ещё пять компаний подписали так называемое морально обязывающее соглашение с Белым домом, которое, по словам Левина, «недостаточно для решения текущих задач».

Часть опасений контролера города усиливается собственными раскрытиями информации компании Anthropic. В проекте документа S-1 компания предупредила, что передовой искусственный интеллект может представлять «катастрофические или экзистенциальные риски для человечества,» при этом раздел о рисках занимает около 80 страниц — почти вдвое больше, чем раздел, описывающий бизнес.

Чтобы еще раз подчеркнуть риски, на которые он указывает, Левин упомянул, что эссе Амодеи было опубликовано после того, как Джейкоб Коксон, ранее работавший исследователем в компании, подал в отставку 9 сентября. 

Коксон назвал экзистенциальные опасения причиной своего ухода, заявив, что insiders считают: учитывая темпы развития, ИИ может уничтожить человечество к концу десятилетия.

В заявлении руководителя направления науки об согласовании (alignment science) компании Эвана Хьюбингера вероятность того, что ИИ убьет всех людей в течение десятилетия, оценивается выше 10%.

Точная дата IPO не сообщается; однако аналитики предполагают, что она может состояться после ноябрьских промежуточных выборов в США, хотя ожидается, что компания все же выйдет на биржу раньше OpenAI.