Anthropic: ИИ, созданный ИИ, может опередить меры безопасности и дестабилизировать рынки

Искусственный интеллект берет на себя все больше задач, необходимых для создания более мощных моделей. Компания Anthropic утверждает, что Claude уже обеспечивает более быстрый процесс, хотя сама по себе она пока не в состоянии создать своего преемника. В своем отчете от 4 июня компания заявила, что прогресс в области ИИ создает риск того, что технология может превзойти меры безопасности и регуляторный контроль.

Когда ИИ создает сам себя и что это еще не означает

Однако Клоуд пока не достиг уровня рекурсивного самосовершенствования, при котором ИИ создавал бы и обучал свою преемницу без какого-либо участия человека. По данным Anthropic, ни одна система еще не достигла этой возможности.

Клоуд уже справляется с большей частью задач по программированию в Anthropic, хотя и не обладает полной автономией. К маю 2026 года Клоуд написал более 80% кода, который инженеры компании добавляли в программные проекты. Во втором квартале 2026 года типичный инженер ежедневно писал в восемь раз больше кода, чем в 2024 году.

Эти цифры показывают, насколько вырос объем кода, но не обязательно то, сколько полезной работы выполняется. опрос, на который ссылается METR среди 349 технических специалистов, выявил медианный рост самоотчетной ценности их работы с инструментами ИИ в 1,4–2 раза.

26% под руководством Клоуда, ни один из них не полностью автономен

Клоуд теперь делает больше, чем просто пишет код. Согласно измерениям Anthropic от августа, он возглавлял 26% задач по исследованиям и разработкам в области ИИ, что выше менее чем 1% в феврале. Клоуд участвовал или руководил более чем 90% работ, но люди оставались вовлечены на всех этапах. Ни одна из измеренных работ не была полностью автономной.

Исследования Anthropic и опрос METR измеряют разные вещи. Anthropic отслеживает генерацию кода и исследования, проводимые с помощью систем ИИ, а METR измеряет, как работники воспринимают рост ценности своей работы. Однако ни одно из этих исследований не указывает, способен ли ИИ определять, какие исследовательские задачи следует решать.

Как это может усугубляться без самоусовершенствования какой-либо отдельной модели

ИИ не обязательно должен быть полностью автономным, чтобы проводить исследования быстрее. Согласно октябрьскому отчету RAND, агенты ИИ могут создавать более мощные модели, не заботясь о создании своих собственных преемников. Они уже могут представлять угрозу безопасности благодаря доступу к чувствительным моделям и коду.

По мнению экономистов из METR, могут возникнуть ограничения, обусловленные такими факторами, как доступность данных, вычислительные мощности и возможность проведения экспериментальных исследований. Однако они не отвергают идею устойчивого ускорения развития ИИ

Вопрос в том, смогут ли независимые проверки безопасности успевать за экспериментами с использованием ИИ. В противном случае надзор может отставать задолго до наступления полной автономии.

От гонки на передний край к его контролю

Эта обеспокоенность побудила генерального директора Anthropic Дарио Амодеи призвать к более медленному развитию и независимой оценке. В своем эссе от сентября он написал:

«Нам необходимо замедлить темпы улучшения возможностей моделей искусственного интеллекта»

OpenAI’s September 16 disclosure detailed six cases of concerning model behavior. Cryptopolitan also reported divisions among technology leaders over whether to slow AI development.

Но согласие по вопросам безопасности не гарантирует принятия мер. CSIS предупредил, что внешние оценщики должны избегать конфликта интересов. Правительствам также необходимо защищаться от регуляторного захвата. Отраслевые соглашения остаются неопределенными.

Деньги следуют за вычислительными мощностями

The debate also carries financial stakes. Stanford’s 2026 AI Index found private AI investment rose 127.5% in 2025. US investment was 23 times China’s. The OECD also warns that access to chips, cloud infrastructure, and data remains concentrated. This creates a paradox. AI may make research coding cheaper, but training and testing advanced models still require enormous investment. Faster development could therefore give leading laboratories an even greater advantage over smaller competitors.