Идеологический конфликт в Кремниевой долине: эффективные альтруисты против эффективных ускорителей

Недавний корпоративный скандал в OpenAI вывел организацию на передний план и обнажил глубокий идеологический конфликт внутри Кремниевой долины. В стремительных и неожиданных событиях генеральный директор компании Сам Альтман был отстранён от должности, но вскоре восстановлен в ней. Последствия этой четырёхдневной борьбы за власть имеют серьёзные последствия для будущего OpenAI и более широкого технологического ландшафта.

Битва видений

В основе конфликта лежит фундаментальное разногласие относительно будущего искусственного интеллекта. С одной стороны находятся эффективные альтруисты (EA), которые выступают за осторожный и регулируемый подход к развитию ИИ. Они рассматривают ИИ как потенциальную экзистенциальную угрозу для человечества и подчеркивают необходимость тщательного надзора и мер безопасности.

Эффективные ускорители (e/acc) находятся на противоположной стороне, которые выступают за более агрессивный и ориентированный на рынок подход к развитию ИИ. Они утверждают, что неограниченный рост ИИ является лучшим способом раскрыть его потенциал и считают, что рынок должен направлять его эволюцию.

Смещающаяся позиция Сэма Альтмана

Сэм Альтман, генеральный директор OpenAI, стал центральной фигурой в этом идеологическом столкновении. Хотя он явно не присоединяется к лагерю e/acc, его действия и решения указывают на сильную склонность к ускоренству. Под его руководством OpenAI сместилась от своей первоначальной миссии некоммерческой организации по продвижению безопасности ИИ к более коммерческому и ориентированному на рост подходу.

Запуск Альтманом продуктов ИИ, таких как ChatGPT и Dall-E, которые вызвали как благоговение, так и страх из-за их продвинутых возможностей, подчеркивает его приверженность расширению границ ИИ. Его противоречивый твит в 2022 году, в котором он заявил: «Вы не сможете опередить меня в ускорении», further solidified his alignment with the accelerationist viewpoint.

Темный потенциал ИИ

Эффективные альтруисты в технологическом сообществе выражают глубокую обеспокоенность по поводу неконтролируемого развития ИИ. Они боятся сценариев, в которых ИИ, если он останется нерегулируемым и неконтролируемым, может привести к катастрофическим последствиям. Эти опасения варьируются от распространения наноботов, способных потреблять всю биомассу на Земле, до использования ИИ для запуска глобальной кибератаки.

Лирон Шапира, известный предприниматель, активно поддерживающий инициативы по безопасности ИИ, идет так далеко, что говорит, что ИИ «убьет нас». Он подчеркивает, что точные средства, которыми ИИ может представлять угрозу, менее важны, чем если ИИ превзойдет человеческий интеллект. Он потенциально может достичь любой поставленной цели, включая те, которые вредны для человечества.

Оптимистичный бунт E/acc

В отличие от этого, последователи e/acc, такие как Августус Дорицко, рассматривают свое движение как отказ от нигилизма. Они принимают «революционную перспективу зумеров», которая верит в потенциал технологий улучшить мир. Дорицко, например, основал компанию по засеву облаков Rainmaker, направленную на решение проблем, связанных с засухой.

Фундаментальная вера e/acc, обобщенная в их манифесте, заключается в том, что технологии следует принимать и ускорять, а не сопротивляться. Они утверждают, что жизнь по своей природе стремится к расширению, и что судьба человечества лежит среди звезд.

Сообщество e/acc и влиятельные лица

Движение e/acc набрало значительную популярность, прежде всего в интернете. Оно восхваляет технологический прогресс и «созидание», охватывая всё — от передового искусственного интеллекта до освоения космоса. Известные фигуры, такие как Марк Андриссен и Крис Пруча, выразили поддержку принципам e/acc.

В районе залива Сан-Франциско, где расположено множество технологических новаторов, сторонники e/acc, такие как Пруча, активно участвуют в проектах, таких как GrowSF — некоммерческая организация, занимающаяся решением проблем нехватки жилья, образования и общественной безопасности. GrowSF является осязаемым проявлением приверженности e/acc улучшению общества с помощью технологий.

Политический ландшафт и регулирование ИИ

По мере того как движение e/acc набирает обороты, эффективные алтруисты доминируют в политических дискуссиях в Вашингтоне. Исполнительный указ президента Байдена о безопасности и защите ИИ, а также недавние правила регулирования ИИ, принятые Европейским союзом, больше соответствуют осторожной позиции эффективных алтруистов.

Крупные технологические компании, включая Google, Apple и Facebook, часто поддерживают регулирование ИИ. Некоторые критики утверждают, что эти технологические гиганты, когда-то сами бывшие разрушителями устоев, теперь предпочитают регулирование, чтобы подавить конкуренцию и защитить свои устоявшиеся позиции.

E/acc: Возвращение к пионерскому духу технологий

Для сторонников, таких как Антонио Гарсия Мартинес, e/acc представляет собой возвращение к первоначальному пионерскому духу Кремниевой долины. Он противопоставляет революционный дух e/acc устоявшимся технологическим гигантам, которые стали новой эстаблишмент-структурой.

По мнению Мартинеса, e/acc воплощает веру в то, что технологии могут решить практически любую проблему, в отличие от более раннего разрушительного мышления технологической индустрии. Движение стремится использовать потенциал технологий для создания лучшего будущего.