Великобритания занимает проактивную позицию по безопасности ИИ на фоне опасений экзистенциальных рисков

В заметном изменении позиции Соединенное Королевство активно принимает меры для противостояния потенциальным угрозам, связанным с Искусственным Интеллектом (ИИ). Премьер-министр Риши Сунак объявил о планах проведения международного саммита по безопасности ИИ, подчеркивая срочность решения этих угроз. Этот сдвиг следует за более ранним белым документом по ИИ, который весной характеризовал экзистенциальные риски, связанные с ИИ, как имеющие «высокое воздействие, низкую вероятность».

Изменение перспективы частично приписывается влиянию движения Эффективного Альтруизма (EA), группы лидеров мнений, выступающих за безопасность ИИ, часто поддерживаемых видными фигурами в технологической индустрии.

Эффективный альтруизм: защита будущего-ориентированного подхода

Движение Эффективного Альтруизма сыграло ключевую роль в формировании позиции Великобритании по безопасности ИИ. Укоренившись в Оксфордском университете и подпитываемое поддержкой тяжелыхweights Силиконовой долины. Приверженцы EA считают, что сверхинтеллектуальный ИИ, если не управляется appropriately, может представлять экзистенциальную угрозу для человечества. 

Их подход делает акцент на долгосрочных перспективах в ущерб сиюминутным проблемам, утверждая, что разработка сверхинтеллектуального ИИ должна осуществляться с неукоснительной осторожностью. Для них потенциальные результаты развития ИИ бинарны: либо утопия, либо гибель. Эта точка зрения набирает популярность в Великобритании, где советники правительства разделяют опасения движения эффективного альтруизма (EA), а тесные связи Сунака с лабораториями ИИ, связанными с этим движением, усиливают его влияние.

Предупреждение Иэна Хогарта стимулирует действия

Поворотным моментом в этом сдвиге стало, когда технологический инвестор Иэн Хогарт написал вирусную статью в Financial Times в апреле, бьющую тревогу по поводу гонки к «Богоподобному ИИ» и ее потенциала привести к устареванию или уничтожению человечества. Его статья отражала чувства влиятельного письма «паузы ИИ», которое призывало к мораторию на крупномасштабные эксперименты с ИИ.

В сочетании с другим письмом, в котором утверждалось, что ИИ представляет угрозу вымирания человечества, это вызвало широкие дискуссии и побудило премьер-министра Сунака выразить обеспокоенность по поводу этих рисков.

Влияние эффективного альтруизма на целевую группу по безопасности ИИ в Великобритании

Под руководством Иэна Хогарта целевая группа Великобритании по базовым моделям (Foundation Model Taskforce) объявила о новых партнерствах, значительная часть которых связана с движением эффективного альтруизма. Примечательно, что Центр безопасности ИИ (Centre for AI Safety), известный своим письмом о «риске вымирания от ИИ», получает основное финансирование от Open Philanthropy, крупной организации-донора EA. Arc Evals, чьи системы ИИ могут нести потенциально катастрофические риски, является еще одним партнером, поддерживаемым донорами EA. 

Проект Community Intelligence Project, фокусирующийся на моделях управления для трансформационных технологий, также связан с сообществом EA. В исследовательскую группу целевой группы входит профессор Кембриджского университета Дэвид Кругер, получивший значительный грант от Open Philanthropy для снижения риска вымирания человечества из-за систем ИИ.

Безопасность ИИ и передовые модели

Целевая группа, теперь переименованная в «Frontier AI Taskforce», расширяет свой фокус, чтобы addressing emerging AI risks beyond the immediate horizon. Она стремится управлять рисками и использовать преимущества технологии для общества. Однако эта смена перспективы вызвала критику с некоторых сторон. 

Исследователи и эксперты по этике ИИ утверждают, что фокус на экзистенциальных рисках затмил насущные проблемы, такие как предвзятость, конфиденциальность данных и вопросы авторского права в современных моделях ИИ. Они выражают обеспокоенность тем, что дискуссии о безопасности ИИ стали алармистскими и не имеют эмпирических доказательств.

Пересечение эффективного альтруизма, технологических гигантов и политики

Тесные связи движения EA с Кремниевой долиной вызывают вопросы о его объективности. Крупные лаборатории ИИ, такие как OpenAI, DeepMind и Anthropic, имеют связи с EA, и их идеология влияет на их ценности и решения. 

Open Philanthropy, основанная соучредителем Facebook Дастином Московицем, предоставила OpenAI значительное первоначальное финансирование. Основатель Skype Яан Таллин был ранним инвестором и бывшим директором в DeepMind. Илон Маск, сторонник «долгосрочной» идеологии, связанной с EA, нанял Дэна Хендриксa, директора Центра безопасности ИИ, в качестве советника для своего нового стартапа xAI.

Финансовая поддержка безопасности ИИ со стороны EA

Чтобы противостоять воспринимаемым угрозам, движение EA направляет значительные ресурсы на безопасность ИИ. Гарольд Карнофски, глава Open Philanthropy, временно отошел от дел, чтобы сосредоточиться на безопасности ИИ. Центр карьерных советов EA, 80,000 hours, рекомендует технические исследования в области безопасности ИИ и формирование будущего управления ИИ в качестве лучших карьерных выборов для сторонников EA. Эта поддержка сопровождается уникальной терминологией, включая такие термины, как «экзистенциальные риски» и «вероятность гибели», что выделяет EA в дискуссиях о безопасности ИИ.

В то время как повестка дня по безопасности ИИ в Великобритании набирает обороты, некоторые эксперты предостерегают от пренебрежения непосредственными проблемами, связанными с ИИ, такими как предвзятость, конфиденциальность данных и этические соображения. Они утверждают, что фокус на экзистенциальных рисках затмил эти насущные вопросы. Критики также выражают обеспокоенность тем, что близость движения к компаниям ИИ может привести к регуляторному захвату, когда отрасль оказывает чрезмерное влияние на принятие политических решений.

Сложная экосистема: роль EA в формировании политики ИИ

Влияние движения эффективного альтруизма на формирование повестки дня по безопасности ИИ в Великобритании неоспоримо. Корнями уходя в академию и поддерживаемое Кремниевой долиной, оно успешно вывело экзистенциальные риски на первый план. Однако, пока Великобритания navigates this complex landscape, policymakers must balance long-term AI safety concerns with the immediate ethical, legal, and societal challenges that today’s AI technologies pose.

Проактивный подход Соединенного Королевства к безопасности ИИ отражает меняющийся ландшафт разработки ИИ. Хотя эффективный альтруизм и его долгосрочная перспектива сыграли ключевую роль в этом сдвиге, Великобритании предстоит задача найти баланс между решением экзистенциальных рисков и управлением этическими и социальными последствиями ИИ здесь и сейчас. По мере приближения Международного саммита по безопасности ИИ остается неясным, как Великобритания будет navigate these intricate waters and contribute to shaping the future of AI on a global scale.