Движение эффективного альтруизма в Кремниевой долине формирует политику Вашингтона в сфере ИИ

В последние годы движение эффективного альтруизма (EA), зародившееся в Кремниевой долине, приобрело значительное влияние в формировании подхода Вашингтона к технологической политике, особенно в отношении искусственного интеллекта (ИИ). Это рационалистское движение, поддерживаемое технологическими миллиардерами, начиналось как основанный на данных подход к борьбе с человеческими страданиями, но превратилось во влиятельную силу с интенсивным фокусом на экзистенциальных рисках ИИ. В то время как некоторые политики принимают обеспокоенность EA, другие остаются скептически настроенными относительно масштаба этих угроз.

Обеспокоенность EA апокалипсисом от ИИ

Одной из определяющих черт приверженцев EA является их опасения по поводу апокалипсиса от ИИ. Многие сторонники эффективного альтруизма твердо верят, что человечество находится на грани создания сверхинтеллектуального ИИ, который потенциально может превзойти все человеческие усилия по его контролю. Этот ИИ, по их страхам, может действовать автономно или попасть в неправильные руки, что приведет к катастрофическим последствиям. Некоторые, включая видного мыслителя EA Элиезера Юдковского, утверждают, что даже ядерная катастрофа была бы предпочтительным исходом по сравнению с будущим без контроля над ИИ.

«Вторжение» EA в Вашингтон

Сторонники эффективного альтруизма в значительном количестве прибыли в Вашингтон, округ Колумбия, и их присутствие меняет ландшафт технологической политики города. Их подход к регулированию ИИ существенно отличается от подхода традиционных специалистов по политике в столице страны. Если Вашингтон обычно занимается практическими вопросами, такими как расовый профилинг, дезинформация и вытеснение рабочих мест, то эффективный альтруизм привносит более абстрактный, экзистенциальный взгляд на стол.

Члены движения эффективного альтруизма активно лоббируют масштабные законы об ИИ, призванные согласовать развитие ИИ с человеческими ценностями и целями. Эти политики включают новые правила отчетности для продвинутых моделей ИИ, требования к лицензированию компаний ИИ, ограничения на модели ИИ с открытым исходным кодом и даже предложение о полном «паузе» на «гигантских» экспериментах с ИИ. Общая цель — предотвратить будущее ИИ, которое потенциально может угрожать человечеству.

Столкновение культур

Сторонники эффективного альтруизма часто приходят в Вашингтон с рвением, схожим с религиозными обращенными, что создает культурный конфликт с инкрементальной и детально ориентированной культурой принятия политик в городе. В то время как политики в Вашингтоне привыкли решать практические вопросы, сторонники EA подчеркивают абстрактные экзистенциальные проблемы, что выделяет их своим стилем и фокусом.

Критики выразили обеспокоенность по поводу недостатка разнообразия среди приверженцев эффективного альтруизма. Движение преимущественно состоит из белых мужчин из привилегированных слоев общества. Этот демографический состав вызвал скептицизм со стороны некоторых законодателей, особенно из маргинализированных сообществ, которые считают, что мировоззрение EA может не адекватно отражать проблемы, связанные с ИИ, тех, кого они представляют.

Денежные потоки в эффективный альтруизм

Одним из ключевых факторов, определяющих влияние EA в Вашингтоне, является значительная финансовая поддержка, которую оно получает. Open Philanthropy, крупный спонсор проектов EA, основанный Дастином Московицем и Кари Туна, направила огромные ресурсы в исследовательские центры и программы, разместив исследователей в области ИИ и биобезопасности на ключевых позициях в правительственных агентствах и конгрессе.

Влияние технологических миллиардеров в эффективном альтруизме трудно переоценить. Такие видные фигуры, как Илон Маск и Дастин Московиц, щедро финансировали проекты и организации, связанные с EA, вливая сотни миллионов долларов в влиятельные исследовательские центры и программы, которые разместили сотрудников на ключевых государственных должностях. Эта финансовая поддержка дала EA значительное преимущество в продвижении своей политики.

Растущее влияние

Несмотря на скептицизм и критику, влияние EA продолжает расти, формируя дебаты вокруг политики ИИ в Вашингтоне. Политические профессионалы, финансируемые EA, интегрированы во все ключевые узлы политики в городе, включая Белый дом, федеральные агентства и влиятельные исследовательские центры. Их присутствие направляет дискуссии в сторону экзистенциальных рисков ИИ, которые стали центральной точкой политического дискурса.

Оптимисты в сфере ИИ: появляется контрсила

В то время как EA приобрела значительное влияние в Вашингтоне, начинает формироваться контрсила. Оптимисты в сфере ИИ, которых часто называют «эффективными акселерационистами», выступают против предложений по замедлению развития и контролю ИИ. Эти оптимисты, возглавляемые такими фигурами, как Марк Андриссен, в основном сосредоточены в Кремниевой долине и решительно настроены предложить альтернативный нарратив.

Не все в Вашингтоне охотно принимают нарратив о конце света от ИИ. Некоторые законодатели остаются скептически настроенными относительно вероятности и серьезности экзистенциальных рисков, связанных с ИИ. Они считают, что акцент на этих рисках может отвлечь от решения насущных проблем, таких как предвзятость ИИ, конфиденциальность и кибербезопасность.

По мере того как обеспокоенность сторонников эффективного альтруизма (EA) экзистенциальными рисками ИИ набирает обороты, все более громкий хор политиков выступает за более сбалансированный подход. Они утверждают, что решение текущих проблем ИИ, таких как предвзятость и вопросы конфиденциальности, не должно отходить на второй план из-за страха перед гипотетическим апокалипсисом от ИИ.

Растущее влияние EA на политику ИИ

Движение эффективного альтруизма, с его фокусом на экзистенциальных рисках ИИ и влиятельными спонсорами, оказало значительное влияние на ландшафт политики ИИ в Вашингтоне. Его присутствие и политика меняют дебаты вокруг регулирования ИИ, даже если некоторые политики остаются осторожными в отношении серьезности угроз. По мере того как дискурс по политике ИИ продолжает развиваться, поиск баланса между решением текущих проблем и рассмотрением экзистенциальных рисков остается центральной задачей для политиков в столице страны.