В последние годы движение эффективного альтруизма (ЭА), зародившееся в Силиконовой долине, приобрело существенное влияние на формирование подхода Вашингтона к технологической политике, особенно в отношении искусственного интеллекта (ИИ). Это рационалистическое движение, поддерживаемое технологическими миллиардерами, начиналось как подход, основанный на данных, для решения проблемы человеческих страданий, но превратилось во влиятельную силу, уделяющую пристальное внимание экзистенциальным рискам, связанным с ИИ. Хотя некоторые политики разделяют опасения ЭА, другие остаются скептически настроены относительно масштабов этих угроз.
Опасения EA по поводу апокалипсиса в сфере ИИ
Одной из defiчерт сторонников эффективного альтруизма является их опасение по поводу апокалипсиса, вызванного искусственным интеллектом. Многие сторонники эффективного альтруизмаtronубеждены, что человечество находится на грани создания сверхинтеллектуального ИИ, который потенциально может превзойти все попытки его контролировать. Они опасаются, что этот ИИ может либо действовать автономно, либо попасть в чужие руки, что приведет к катастрофическим последствиям. Некоторые, включая известного мыслителя эффективного альтруизма Элиэзера Юдковски, утверждают, что даже ядерная катастрофа была бы предпочтительнее, чем бесконтрольное развитие ИИ в будущем.
Вторжение EA в Вашингтон
В Вашингтон, округ Колумбия, прибыло значительное количество сторонников эффективного альтруизма, и их присутствие меняет ландшафт технологической политики города. Их подход к политике в области ИИ существенно отличается от подхода традиционных специалистов по политике в столице страны. В то время как Вашингтон обычно занимается практическими проблемами, такими как расовое профилирование, дезинформация и вытеснение рабочей силы, эффективный альтруизм привносит более абстрактную trac экзистенциальную перспективу .
Члены организации «Эффективный альтруизм» активно добиваются принятия масштабных законов об искусственном интеллекте, призванных привести разработку ИИ в соответствие с человеческими ценностями и целями. Эти законы включают новые правила отчетности для передовых моделей ИИ, требования к лицензированию компаний, занимающихся ИИ, ограничения на модели ИИ с открытым исходным кодом и даже предложение о полной «паузе» в «гигантских» экспериментах с ИИ. Главная цель — предотвратить будущее, в котором ИИ может представлять угрозу для человечества.
Столкновение культур
Сторонники эффективного альтруизма часто относятся к Вашингтону с рвением, сродни религиозному новообращенному, что создает культурный конфликт с постепенным и ориентированным на детали процессом принятия решений в городе. В то время как политики в Вашингтоне привыкли решать практические проблемы, сторонники эффективного альтруизма делают упор наtracэкзистенциальные проблемы, что отличает их по стилю и направленности.
Критики выражают обеспокоенность по поводу недостаточного разнообразия среди сторонников эффективного альтруизма. Движение преимущественно состоит из белых мужчин, принадлежащих к привилегированным слоям населения. Такой демографический состав вызывает скептицизм у некоторых законодателей, особенно из маргинализированных сообществ, которые считают, что мировоззрение эффективного альтруизма может неадекватно учитывать проблемы, связанные с искусственным интеллектом, интересы тех, кого они представляют.
Финансовые потоки в фонд эффективного альтруизма
Одним из ключевых факторов, определяющих влияние EA в Вашингтоне, является значительная финансовая поддержка, которую она получает. Организация Open Philanthropy, крупный спонсор проектов EA, основанная Дастином Московицем и Кари Туной, направила огромные ресурсы в аналитические центры и программы, обеспечив исследователям в области ИИ и биобезопасности ключевые позиции в правительственных учреждениях и офисах конгрессменов.
Влияние технологических миллиардеров на «Эффективный альтруизм» невозможно переоценить. Такие видные деятели, как Илон Маск и Дастин Московиц, щедро финансировали связанные с «Эффективным альтруизмом» инициативы и организации, вложив сотни миллионов долларов в влиятельные аналитические центры и программы, благодаря которым их сотрудники заняли ключевые государственные должности. Эта финансовая поддержка дала «Эффективному альтруизму» значительное преимущество в отстаивании своей политики.
Растущее влияние
Несмотря на скептицизм и критику, влияние EA продолжает расти, формируя дискуссию о политике в области ИИ в Вашингтоне. Финансируемые EA специалисты по политике внедрены в ключевые политические структуры города, включая Белый дом, федеральные агентства и влиятельные аналитические центры. Их присутствие направляет дискуссии к экзистенциальным рискам, связанным с ИИ, которые стали центральным пунктом политического дискурса.
Оптимисты в отношении ИИ: появляется противодействующая сила
Хотя концепция эффективного ускорения развития искусственного интеллекта (EA) получила значительное tracв Вашингтоне, начинает формироваться противодействующая сила. Оптимисты в отношении ИИ, которых часто называют «эффективными акселерационистами», противостоят предложениям замедлить развитие и контроль над ИИ. Эти оптимисты, возглавляемые такими фигурами, как Марк Андрессен, в основном сосредоточены в Силиконовой долине и полны решимости предложить альтернативную точку зрения.
Не все в Вашингтоне с готовностью принимают апокалиптическую версию об ИИ. Некоторые законодатели по-прежнему скептически относятся к вероятности и серьезности экзистенциальных рисков, связанных с ИИ. Они считают, что сосредоточение внимания на этих рисках может отвлечь trac решения насущных проблем, таких как предвзятость ИИ, конфиденциальность и кибербезопасность.
В то время как опасения EA по поводу экзистенциальных рисков ИИ набирают обороты, все большее число политиков выступает за более сбалансированный подход. Они утверждают, что решение насущных проблем ИИ, таких как предвзятость и проблемы конфиденциальности, не должно отходить на второй план из-за страха перед гипотетическим апокалипсисом ИИ.
Растущее влияние EA на политику в области искусственного интеллекта
Движение «Эффективный альтруизм», с его акцентом на экзистенциальные риски ИИ и влиятельными сторонниками, оказало значительное влияние на политику ИИ в Вашингтоне. Его присутствие и политика меняют дискуссию о регулировании ИИ, даже несмотря на то, что некоторые политики по-прежнему с осторожностью относятся к серьезности угроз. По мере того, как дискурс о политике в области ИИ продолжает развиваться, поиск баланса между решением насущных проблем и рассмотрением экзистенциальных рисков остается центральной задачей для политиков в столице страны.
