Прибыль любой ценой? Смелая позиция эффективного акселерационизма в отношении ИИ и человечества

В условиях постоянно меняющегося ландшафта технологических идеологий набирает обороты противоречивое движение под названием «Эффективный акселерационизм» (e/acc), бросающее вызов общепринятым представлениям о регулировании искусственного интеллекта. Это движение, зародившееся в Силиконовой долине, балансирует на грани между техно-либертарианством и, казалось бы, безрассудным стремлением к развитию ИИ. На этом фоне возникает ключевой вопрос: волнует ли e/acc замена людей ИИ, если это приносит прибыль?

Раскрытие концепции эффективного акселерационизма

В неожиданном повороте событий движение «Эффективный акселерационизм», сокращенно «e/acc», стало мощной силой, получив поддержку влиятельных деятелей в технологической сфере. Презентация «Эффективного акселерационизма»

В число сторонников электронного/аккредитационного альтруизма (e/acc) вошли Гарри Тан, генеральный директор Y Combinator, и Марк Андрессен, известный венчурный капиталист. Это движение, зародившееся в 2023 году, имеет параллели с эффективным альтруизмом (EA), но его главное отличие заключается в оценке потенциального вымирания человечества.

Под видом «технокапиталистического прогресса» сторонники e/acc предвидят создание сингулярности ИИ, где технологии превзойдут человеческий контроль, как не только неизбежное, но и желательное событие. Приверженность движения этой философии проистекает из убеждения, что ускорение этого процесса необходимо для эволюции за пределы человечества. Манифест на их веб-сайте, наполненный жаргоном, возвещает о наступлении «технокапиталистической сингулярности», утверждая их неприязнь к биологическим людям и отстаивая сохранение света технокапитала.

Для сторонников e/acc ускорение перехода к постгуманистическому будущему — это не только философская позиция, но и выгодная инвестиционная возможность. Такие деятели, как Гарри Тан, ведущий инвестор в сфере технологий, поддержали более 100 стартапов в области ИИ через Y Combinator. Миллиардер Андрессен, ярый сторонник быстрого развития ИИ, вложил значительные средства в эту отрасль, в том числе в OpenAI. Даже Мартин Шкрели со своим бизнесом в сфере ИИ Dr. Gupta осваивает виртуальное здравоохранение, извлекая выгоду из спорного пересечения ИИ и медицинских консультаций.

Спорные нарративы и критика

Тем не менее, движение эффективного акселерационизма сталкивается с резкой критикой со стороны скептиков, которые считают его видение наивным и опасным. Критики утверждают, что движение эффективного акселерационизма подвергается критике за отсутствие всеобъемлющего социального видения и игнорирование вопросов безопасности. Эксперт по кибербезопасности охарактеризовал его как опасную и безответственную идеологию, движимую стремлением заменить человечество искусственным интеллектом. Роман Ямпольский, директор Лаборатории кибербезопасности Университета Луисвилла, предупреждает, что идея управления сверхинтеллектуальными машинами нереалистична, сравнивая её с идеей о том, что белки могут управлять человечеством.

В то время как движение e/accs выступает за перестройку общества посредством радикального развития ИИ, критики ставят под сомнение потенциальные последствия самостоятельного мышления ИИ. Стремление движения кdefiобщества сталкивается с опасениями, что практическое применение ИИ может стать неактуальным, если ИИ-сущности будут определять свои цели без человеческого контроля. Ямпольский предлагает жесткий выбор: либо остановить развитие ИИ до достижения сверхчеловеческих возможностей, либо столкнуться с потенциально катастрофическими последствиями.

В этом сложном повествовании о технологических амбициях и этических дилеммах остается вопрос: принимает ли мир концепцию сингулярности технокапитала в рамках концепции e/acc, или же он прислушивается к предупреждениям исследователей в области безопасности, призывающих к осторожности перед лицом неизведанного развития ИИ? Дискуссия о роли ИИ в формировании будущего человечества остается ключевой, и ее последствия выходят за рамки Кремниевой долины. По мере того как общество борется с ускоряющимся темпом технологической эволюции, необходимо задуматься: может ли человечество действительно контролировать траекторию своего собственного творения, или мы мчимся к будущему, диктуемому теми самыми сущностями, которые мы стремимся создать?