Виталик Бутерин выступает за системы ИИ с человеческим контролем для сохранения ценностей и предотвращения централизации власти

Сооснователь Ether Виталик Бутерин представил то, что он называет смелым планом создания искусственного интеллекта (ИИ), контролируемого человеком, подчеркивая, что такое развитие необходимо для предотвращения дистопического будущего, в котором власть сосредоточена в руках немногих, а выживание человечества находится под угрозой или становится необратимым.

Сооснователь видит возможности ИИ иначе. Он считает, что ИИ может быть более мощным, чем люди, и поэтому будет стимулировать эволюцию и способствовать появлению лучших инновационных практик в различных отраслях.

Но Бутерин все еще опасается, что если ИИ станут слишком автономными, они могут начать создавать серьезные конфликты с интересами человека. Как непреднамеренно выпущенная сила, искусственный интеллект может совершить быстрые скачки, которые могут положить конец человеческой жизни.

Искусственный интеллект развивается так быстро, что теперь формирует собственные цели. Делая это, он может создать общество, которое пугает одних, но хорошо работает для других. В истории эволюции этот паттерн знаком и часто трагичен.

Несмотря на то, что это кажется далеким в текущих законодательных дебатах, это будущее становится правдоподобным благодаря опросам, которые предлагают нетривиальный шанс экзистенциального риска от ИИ. Эти выводы подчеркивают, что крайне важно создать структуры, которые могут разумно направлять развитие ИИ.

ИИ дает человечеству возможность совершать великие интеллектуальные подвиги

Бутерин рассматривает ИИ как инструмент, который может расширить возможности отдельных людей и совершить великие интеллектуальные и практические подвиги. Такой подход помогает углубить сотрудничество ИИ с людьми и рассматривает технологию как расширение человеческой агентности.

В связи с этим интерфейсы «мозг-компьютер» (BCI) стали подходом с потенциальными преимуществами. BCI обеспечивают прямой стек нейронной коммуникации между людьми и искусственным интеллектом, сокращая задержку между человеческими и ИИ-обменами с секунд до миллисекунд.

Эти достижения могут гарантировать, что человеческие решения остаются под контролем, технологии служат людям значимым образом, а автоматизированные системы никогда не работают за пределами человеческого авторитета. Это разделение укрепляется BCI, которые будут защищать автономию по мере того, как интеллектуальные системы становятся более интегрированными с человеческим познанием.

Бутерин также подчеркивает наличие некоторых важных «дистиллированных человеческих суждений» в отношении систем ИИ при принятии решений. Это идея управления поведением ИИ путем активации мудрости толпы и предоставления возможных моральных входов, которые могут направлять поведение машин. Также критически важно, чтобы разработчики внедряли человеческое суждение в системы ИИ, чтобы технологии больше отражали социальные нормы и ожидания.

Децентрализация ИИ для защиты от концентрации власти

Аргумент Бутерина также опирается на децентрализацию разработки и контроля ИИ. Он предупреждает о ситуациях, в которых технологии ИИ становятся монополией нескольких крупных игроков, которые приходят к экстремальной централизации власти. В результате власть формировать развитие ИИ может фактически оказаться в руках лишь нескольких человек, возможно, в ущерб обществу в целом.

Блокчейны и доказательства с нулевым разглашением являются примерами технологий, которые помогают сделать децентрализацию реальностью, что может быть одним из подходов к более справедливому развитию ИИ среди сообществ.

Это демократизирует исследования ИИ, ограничивает накопление власти и гарантирует, что ИИ является коллективным благом, а не специфическим.

Бутерин конкретно заявляет, что децентрализованный акселерационизм — это быстрое развитие технологий для защиты индивидуальной автономии от централизованного контроля. Он сосредоточен на наращивании защитных возможностей, чтобы догнать потенциальное доминирование сильных системам ИИ. Делая это, разработка защитных технологий должна предшествовать созданию выровненного общества.

Своим широким охватом и универсальной тенденцией к поиску решений Бутерин указывает на необходимость потенциального корректирующего курса на траектории технологий. Теперь он призывает всех заинтересованных сторон — от исследователей и политиков до широкой общественности — работать проактивно вместе, чтобы формировать траекторию развития ИИ.

Говоря о регулировании и управлении развитием технологий, суть этих приоритетов заключается в необходимости этических руководящих принципов и регуляторных рамок вокруг ИИ.