ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

Системы ИИ, возможно, смогут перестроить себя с 2028 года, говорит сооснователь Anthropic

АвторИбиам ВайясИбиам Вайяс 2 мин. чтения
Системы ИИ, возможно, смогут перестроить себя с 2028 года, говорит сооснователь Anthropic
  • Кларк из Anthropic заявил, что системы ИИ могут быть способны воссоздать себя с 2028 года.
  • Он отметил, что большинство моделей уже обладают всем необходимым для полной автоматизации сквозного R&D.
  • «Я не знаю, как осознать это», — сказал Кларк.

Сооснователь Anthropic Джек Кларк сделал смелое предсказание: системы ИИ могут быть способны перестраивать себя с 2028 года. «Я не уверен, что общество готово», — сказал он.

В блоге Substack, опубликованном в понедельник, Кларк точно указал, что вероятность того, что ИИ станет способен к рекурсивному самосовершенствованию к концу 2028 года, составляет 60%. «Другими словами, системы ИИ вскоре могут стать способными создавать себя», — написал он.
​
Кларк изложил свои аргументы, опираясь на «сотни открытых источников данных» и тенденцию к развертыванию продуктов компаниями, разрабатывающими передовые модели ИИ. Он считает, что вся необходимая инфраструктура уже создана, чтобы позволить системам ИИ проводить исследования и создавать свои собственные преемники.

Системам ИИ теперь требуется меньше человеческого надзора

Аргумент Кларка основан на двух вещах. Системы ИИ стали гораздо более способными в написании и тестировании реального кода. Кроме того, теперь они могут работать самостоятельно гораздо более длительные промежутки времени без человеческого надзора.
​
Что касается программирования, Кларк указал на SWE-Bench, широко используемую оценку, которая проверяет, может ли ИИ решать реальные проблемы на GitHub. Лучшая модель набрала около 2% в момент запуска бенчмарка в 2023 году. Однако сегодня Anthropic Claude Mythos Preview достигает до 93,9%.
​
Превью Claude Mythos было запущено ранее в апреле. В настоящее время оно недоступно для широкой публики, сообщил Cryptopolitan.
​
Он также привел данные от METR, организации, оценивающей передовые модели ИИ, показывающие, что горизонт времени, в течение которого системы ИИ могут надежно работать без вмешательства человека, вырос с примерно 30 секунд в 2022 году (GPT-3.5) до примерно 12 часов в 2026 году (Opus 4.6).

«Это большое дело», — говорит Джек Кларк из Anthropic

Следствие заключается в том, что в течение года или двух системы ИИ станут достаточно креативными, чтобы формировать свои собственные новые исследовательские пути, дорабатывать и обучать своих преемников, особенно непередовые модели, без участия человека. Это может быть гораздо сложнее с передовыми моделями, так как они гораздо дороже, согласно Кларку.
​
Если системы ИИ смогут проводить собственные НИОКР без участия человека, темп прогресса ИИ больше не будет ограничиваться количеством исследователей-людей или продолжительностью рабочего дня.
​
«Я не знаю, как это осмыслить», — написал Кларк . «Это вынужденная позиция, потому что последствия настолько велики, что я чувствую себя ничтожным на их фоне, и я не уверен, что общество готово к изменениям, которые подразумевает достижение автоматизированных ИИ-исследований и разработок».
​
Предсказание Кларка также согласуется с недавним заявлением прогнозиста METR Аджеей Котре о том, что системы ИИ должны быть в состоянии автономно выполнять задачи, требующие примерно 100 часов квалифицированной работы человека, к концу этого года.
​

​
В августе сооснователь Anthropic сказал: «Любой, кто думает, что ИИ замедляется, фатально ошибается в оценке».

Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.

Часто задаваемые вопросы

Кто такой Джек Кларк и почему его взгляд на ИИ имеет значение?

Джек Кларк — сооснователь Anthropic, одной из ведущих компаний в области передовых ИИ-технологий, и автор новостной рассылки Import AI, посвящённой исследованиям в области искусственного интеллекта, которая выходит уже более 450 выпусков. Его позиция внутри крупной лаборатории и репутация эксперта по анализу публичных исследований придают его прогнозам значительный вес в сообществе, занимающемся вопросами политики и развития ИИ.

Что означает «рекурсивное самосовершенствование» в данном контексте?

Согласно эссе Кларка, это относится к ИИ-системе, достаточно мощной для автономного проведения собственных исследований и разработок, а также создания своего преемника без участия человека. Он оценивает вероятность появления такой способности не менее чем в 60% к концу 2028 года.

Какие доказательства приводит Кларк в поддержку своего прогноза?

Кларк сослался на результаты бенчмарков, включая SWE-Bench, где лучшие ИИ-модели увеличили успешность выполнения реальных задач программирования с 2% до 93,9% в период с 2023 по 2026 год, а также данные METR, показывающие, что теперь ИИ-системы могут самостоятельно работать над задачами около 12 часов, по сравнению с 30 секундами в 2022 году.

Поделиться статьёй
Ибиам Вайяс

Ибиам Вайяс

Ибиам Вайяс освещает криптовалютные новости с 2019 года. Он изучал компьютерные науки в Национальном открытом университете Нигерии. Его работы публиковались на различных криптовалютных новостных платформах, включая Coinfomania, Crypto News Australia и AltcoinBuzz. Опираясь на свой опыт в области компьютерных наук, он теперь фокусируется на новостях о криптовалютах, робототехнике и долголетии.

ЕЩЁ … НОВОСТИ