Виталик Бутерин выступает за системы искусственного интеллекта, управляемые человеком, для сохранения ценностей и предотвращения централизации власти

Соучредитель Ether Виталик Бутерин представил то, что он называет смелым планом по созданию управляемого человеком искусственного интеллекта (ИИ), подчеркнув, что такое развитие событий необходимо для предотвращения антиутопического будущего, в котором власть будет централизована, а выживание человечества окажется под угрозой или невозможным.

Соучредитель иначе. Он считает, что ИИ может быть мощнее человека и, следовательно, будет способствовать эволюции и внедрению лучших инновационных практик в различных отраслях.

Однако Бутерин по-прежнему опасается, что если ИИ станут слишком автономными, они могут начать порождать серьезные конфликты с интересами человека. Как непреднамеренно высвобожденная сила, искусственный интеллект может совершить стремительные скачки, способные лишить человечество жизни.

Искусственный интеллект сейчас развивается настолько быстро и ставит перед собой собственные цели. При этом он может создать общество, которое одних пугает, а других устраивает. В истории эволюции эта закономерность хорошо известна и часто трагична.

Хотя в нынешних законодательных дебатах это может показаться далекой перспективой, опросы общественного мнения указывают на существенную вероятность экзистенциального риска, связанного с ИИ. Эти результаты подчеркивают важность создания структур, способных разумно направлять развитие ИИ.

Искусственный интеллект даёт человечеству возможность совершать великие интеллектуальные подвиги

Бутерин рассматривает ИИ как инструмент, способный расширить возможности отдельных людей и совершить великие интеллектуальные и практические подвиги. Такой подход способствует углублению сотрудничества ИИ с людьми и рассматривает технологию как продолжение человеческой воли.

В связи с этим интерфейсы «мозг-компьютер» (BCI) стали перспективным подходом, обладающим значительными преимуществами. BCI обеспечивают прямую нейронную связь между человеком и искусственным интеллектом, сокращая время ожидания между взаимодействием человека и ИИ с секунд до миллисекунд.

Эти достижения могут гарантировать, что решения будут приниматься человеком, технологии будут приносить людям значимую пользу, а автоматизированные системы никогда не будут действовать вне рамок человеческого контроля. Такое разделение усиливается интерфейсами «мозг-компьютер», которые будут обеспечивать автономию по мере того, как интеллектуальные системы будут все больше интегрироваться с человеческим мышлением.

Бутерин также подчеркивает наличие важного «упрощенного человеческого суждения» в процессе принятия решений системами ИИ. Речь идет об управлении поведением ИИ путем активации коллективного разума и предоставления возможных моральных ориентиров, которые могли бы направлять поведение машины. Крайне важно также, чтобы разработчики внедряли человеческое суждение в системы ИИ, чтобы технологии более точно отражали общественные нормы и ожидания.

Децентрализация ИИ для защиты от концентрации власти

Аргументация Бутерина также основана на децентрализации разработки и контроля ИИ. Он предупреждает о ситуациях, когда технологии ИИ становятся монополией нескольких крупных игроков, которые начинают контролировать крайнюю централизацию власти. В результате власть над развитием ИИ может фактически сосредоточиться в руках лишь нескольких человек, что может нанести ущерб обществу в целом.

Блокчейны и доказательства с нулевым разглашением — это примеры технологий, которые помогают воплотить децентрализацию в реальность, что может стать одним из подходов к более справедливому развитию ИИ среди сообществ.

Это демократизирует исследования в области ИИ, ограничивает накопление власти и гарантирует, что ИИ является общественным благом, а не частным.

Бутерин конкретно утверждает, что децентрализованный акселерационизм — это быстрое развитие технологий для защиты индивидуальной автономии от централизованного контроля. Он фокусируется на наращивании оборонительных возможностей, чтобы догнать потенциальное доминирование сильныхtronискусственного интеллекта. При этом разработка защитных технологий должна предшествовать построению согласованного общества.

Благодаря своему широкому охвату тем и повсеместной склонности к поиску решений, Бутеринdentна необходимость потенциальной корректировки траектории развития технологий. Теперь он призывает все заинтересованные стороны — от исследователей и политиков до широкой общественности — к активной совместной работе по формированию траектории развития искусственного интеллекта.

Что касается регулирования и управления развитием технологий, то в основе этих приоритетов лежит необходимость этических норм и нормативно-правовых рамок в отношении ИИ.