Идеологическое столкновение в Кремниевой долине: эффективные альтруисты против эффективных акселерационистов

Недавний корпоративный скандал в OpenAI привлёк к организации всеобщее внимание и выявил глубокий идеологический конфликт внутри Кремниевой долины. В результате неожиданных и стремительных событий генеральный директор компании Сэм Альтман был отстранён от должности, но вскоре после этого восстановлен в ней. Последствия этой четырёхдневной борьбы за власть имеют серьёзные последствия для будущего OpenAI и технологического сектора в целом.

Битва видений

В основе конфликта лежит принципиальное разногласие по поводу будущего искусственного интеллекта. С одной стороны находятся сторонники эффективного альтруизма (ЭА), которые выступают за осторожный и регулируемый подход к развитию ИИ. Они рассматривают ИИ как потенциальную экзистенциальную угрозу человечеству и подчеркивают необходимость тщательного контроля и мер безопасности.

Сторонники концепции эффективного акселератора (e/acc) находятся на противоположной стороне, выступая за более агрессивный и рыночно-ориентированный подход к развитию ИИ. Они утверждают, что беспрепятственный рост ИИ — лучший способ раскрыть его потенциал, и считают, что рынок должен направлять его эволюцию.

Изменение позиции Сэма Альтмана

Сэм Альтман, генеральный директор OpenAI, стал центральной фигурой в этом идеологическом столкновении. Хотя он прямо не присоединяется к лагерю e/acceleration, его действия и решения указывают наtronсклонность к акселерационизму. Под его руководством OpenAI перешла от своей первоначальной некоммерческой миссии по продвижению безопасности ИИ к более коммерческому и ориентированному на рост подходу.

Запуск Альтманом таких продуктов на основе ИИ, как ChatGPT и Dall-E, которые вызвали одновременно восхищение и страх из-за своих передовых возможностей, подчеркивает его стремление расширять границы возможностей ИИ. Его спорный твит в 2022 году, в котором он заявил: «Вы не сможете меня превзойти по ускорению», еще больше укрепил его приверженность акселерационистской точке зрения.

Скрытый потенциал ИИ

В технологическом сообществе сторонники эффективного альтруизма выражают глубокую обеспокоенность по поводу бесконтрольного развития ИИ. Они опасаются сценариев, при которых ИИ, если его не регулировать и не контролировать, может привести к катастрофическим последствиям. Эти опасения варьируются от распространения нанороботов, способных поглотить всю биомассу на Земле, до использования ИИ для осуществления глобальной кибератаки.

Лирон Шапира, известный предприниматель, активно поддерживающий инициативы по обеспечению безопасности ИИ, заходит так далеко, что утверждает, будто ИИ «нас убьет». Он подчеркивает, что точные средства, с помощью которых ИИ может представлять угрозу, менее важны, чем то, превзойдет ли ИИ человеческий интеллект. Потенциально он может достичь любой поставленной цели, включая те, которые наносят вред человечеству.

Оптимистическое восстание E/acc

В противоположность этому, сторонники e/acc, такие как Август Дорико, рассматривают свое движение как отказ от нигилизма. Они придерживаются «революционной точки зрения поколения зумеров», которая верит в потенциал технологий для улучшения мира. Дорико, например, основал компанию по засеиванию облаков Rainmaker, целью которой является решение проблем, связанных с засухой.

Основное убеждение E/acc, изложенное в их манифесте, заключается в том, что технологии следует принимать и ускорять, а не сопротивляться им. Они утверждают, что жизнь по своей природе стремится к расширению и что судьба человечества лежит среди звезд.

Сообщество E/acc и влиятельные лица

Движение e/acc (электронный/принципный прогресс) приобрело значительное число последователей, в основном в интернете. Оно воспевает технологический прогресс и «созидание», охватывая все — от передового искусственного интеллекта до освоения космоса. Известные деятели, такие как Марк Андрессен и Крис Пруча, выразили поддержку принципам e/acc.

В районе залива Сан-Франциско, где сосредоточено множество технологических новаторов, сторонники e/acc, такие как Пруча, активно участвуют в проектах вроде GrowSF, некоммерческой организации, занимающейся решением таких проблем, как нехватка жилья, образование и общественная безопасность. GrowSF является наглядным воплощением стремления e/acc к улучшению общества с помощью технологий.

Политическая ситуация и регулирование ИИ

В то время как движение за электронный/принципный альтруизм набирает обороты, в политических дискуссиях в Вашингтоне доминируют сторонники эффективного альтруизма. Исполнительный указdent Байдена о безопасности ИИ и недавние правила регулирования ИИ, принятые Европейским союзом, в большей степени соответствуют осторожной точке зрения сторонников эффективного альтруизма.

Крупные технологические компании, включая Google, Apple и Facebook, часто поддерживают регулирование в сфере ИИ. Некоторые критики утверждают, что эти технологические гиганты, некогда сами являвшиеся новаторами, теперь предпочитают регулирование, направленное на подавление конкуренции и защиту своих устоявшихся позиций.

E/acc: Возвращение к новаторскому духу технологий

Для таких сторонников, как Антонио Гарсия Мартинес, e/acc представляет собой возвращение к первоначальному новаторскому духу Кремниевой долины. Он противопоставляет революционный дух e/acc устоявшимся технологическим гигантам, которые стали новой элитой.

По мнению Мартинеса, e/acc воплощает убеждение, что технологии могут решить практически любую проблему, в отличие от прежнего менталитета «подрывных инноваций» в технологической индустрии. Движение стремится использовать потенциал технологий для создания лучшего будущего.