ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС
Еженедельно
ОСТАВАЙТЕСЬ НА ВЕРШИНЕ

Лучшие аналитические материалы о криптовалютах прямо в вашу электронную почту.

Системы искусственного интеллекта, возможно, смогут перестраиваться с 2028 года, считает соучредитель Anthropic

КИбиам ВайясИбиам Вайяс
2 минуты чтения
Системы искусственного интеллекта, возможно, смогут перестраиваться с 2028 года, считает соучредитель Anthropic
  • Кларк из компании Anthropic утверждает, что системы искусственного интеллекта могут стать способными к самовосстановлению начиная с 2028 года.
  • Он отметил, что большинство моделей уже обладают всем необходимым для полной автоматизации всего процесса исследований и разработок.
  • «Я не знаю, как это осмыслить», — сказал Кларк.

Соучредитель Anthropic Джек Кларк сделал смелое предсказание о том, что системы искусственного интеллекта могут быть способны к самовосстановлению начиная с 2028 года. «Я не уверен, что общество к этому готово», — сказал он.

В статье, опубликованной в понедельник на Substack, Кларк точно указал, что существует 60%-ная вероятность того, что к концу 2028 года ИИ станет способен к рекурсивному самосовершенствованию. «Другими словами, системы ИИ вскоре могут стать способными к самосозиданию», — написал он.
Кларк изложил свою точку зрения, опираясь на «сотни общедоступных источников данных» и тенденцию внедрения продуктов передовыми компаниями в области искусственного интеллекта. Он считает, что вся необходимая инфраструктура уже создана для проведения исследований в области систем ИИ и создания их собственных преемников.

Теперь системам искусственного интеллекта требуется меньше человеческого контроля

Аргумент Карка основан на двух моментах. Системы искусственного интеллекта стали гораздо более совершенными в написании и тестировании реального кода. Кроме того, теперь они могут работатьdentв течение гораздо более длительных периодов времени без участия человека.
Что касается программирования, Кларк указал на SWE-Bench, широко используемый тест, проверяющий способность ИИ решать реальные задачи на GitHub. Лучшая модель на момент запуска теста в 2023 году показала результат около 2%. Однако сегодня Claude Mythos Preview от Anthropic достигает 93,9%.
Предварительная версия Claude Mythos Preview была запущена в начале апреля. В настоящее время она недоступна для широкой публики, Cryptopolitan сообщает.
Он также сослался на данные METR, организации, которая оценивает передовые модели ИИ, показывающие, что временной горизонт, в течение которого системы ИИ могут надежно работать без вмешательства человека, увеличился с примерно 30 секунд в 2022 году (GPT-3.5) до приблизительно 12 часов в 2026 году (Opus 4.6).

«Это очень важное событие», — говорит Джек Кларк из компании Anthropic

Из этого следует, что в течение года-двух системы искусственного интеллекта станут достаточно изобретательными, чтобы формировать собственные новые направления исследований, совершенствовать и обучать своих преемников, особенно модели, находящиеся на переднем крае развития технологий, без участия человека. По словам Кларка, с моделями, находящимися на переднем крае развития технологий, это может оказаться намного сложнее, поскольку они гораздо дороже.
Если системы искусственного интеллекта смогут проводить собственные исследования и разработки без участия человека, темпы прогресса в этой области больше не будут ограничены количеством исследователей или продолжительностью рабочего дня.
«Я не знаю, как это осмыслить», — написал. «Это мое неохотное мнение, потому что последствия настолько масштабны, что я чувствую себя ничтожным по сравнению с ними, и я не уверен, что общество готово к тем изменениям, которые подразумеваются в достижении автоматизированных исследований и разработок в области ИИ».
Прогноз Кларка также совпадает с недавним заявлением аналитика METR Аджеи Котры о том, что к концу этого года системы искусственного интеллекта должны быть способны автономно выполнять задачи, которые обычно требуют примерно 100 часов работы квалифицированного человека.

В августе соучредитель Anthropic заявил: «Любой, кто думает, что развитие ИИ замедляется, глубоко ошибается»

Вы всё ещё позволяете банку оставлять себе лучшие результаты? Посмотрите наше бесплатное видео о том, как стать собственным банком.

Часто задаваемые вопросы

Кто такой Джек Кларк и почему его точка зрения на искусственный интеллект важна?

Джек Кларк — соучредитель Anthropic, одной из ведущих компаний в области передовых разработок в сфере искусственного интеллекта, и автор информационного бюллетеня Import AI, посвященного исследованиям в области ИИ, который выходил более 450 раз. Его работа в крупной лаборатории и tracанализа общедоступных научных исследований придают его прогнозам весомый вес в сообществе, занимающемся политикой и исследованиями в области ИИ.

Что в данном контексте означает "рекурсивное самосовершенствование"?

Согласно эссе Кларка, речь идёт о системе искусственного интеллекта, достаточно мощной, чтобы автономно проводить собственные исследования и разработки и создавать своего преемника без участия человека. Он оценивает вероятность появления такой возможности к концу 2028 года в 60% или более.

Какие доказательства приводит Кларк в поддержку своего предсказания?

Кларк сослался на результаты сравнительных тестов, включая SWE-Bench, где лучшие модели ИИ достигли успеха в реальных задачах программирования с 2% до 93,9% в период с 2023 по 2026 год, а также на данные METR, показывающие, что системы ИИ теперь могут работатьdentнад задачами примерно 12 часов, по сравнению с 30 секундами в 2022 году.

Поделитесь этой статьей
ЕЩЕ… НОВОСТИ
ЭКСПРЕСС- ПО ГЛУБОКОЙ
КУРС