Является ли регулирование гонки вооружений с ИИ ответом на растущие глобальные угрозы безопасности?

Стремительная эволюция искусственного интеллекта (ИИ) принесла значительные преобразования во многие сферы нашей жизни: от образования и работы до исследований и коммуникаций. Однако растёт обеспокоенность по поводу применения ИИ в военных целях; эта проблема сопоставима даже с угрозами, исходящими от изменения климата. Безудержное развитие ИИ в военной технологии может привести к катастрофическим последствиям для человечества, как это наблюдается в текущей гонке вооружений с использованием ИИ.

Искусственный интеллект уже оставил свой след в боевых сценариях. В частности, в марте 2020 года турецкий дрон, оснащённый технологиями распознавания лиц, использовался для поражения вражеских комбатантов в Ливии. Однако, несмотря на неоспоримый прогресс, отсутствие эффективного регулирования таких передовых вооружений поднимает критические вопросы об их соответствии международному гуманитарному праву. Могут ли автономные оружие надёжно различать гражданских лиц и комбатантов? Снизят ли они уровень вреда для некомбатантов? Проблема обеспечения принятия этими вооружениями взвешенных решений в эмоционально напряжённых ситуациях остаётся острой.

Дополнительная тревога связана со сложностью определения ответственности за возможные военные преступления при отсутствии человеческого вмешательства. Предоставление машинам права принимать решения о жизни и смерти, отводя людям роль лишь «точек данных», несёт риск цифровой дегуманизации. Кроме того, распространение технологий вооружённого применения ИИ снижает барьеры для стран, прибегающих к вооружённому конфликту, за счёт уменьшения числа жертв — это тревожная тенденция, способная запустить цепную реакцию непредвиденных конфликтов.

Катастрофическая угроза в тени негосударственных акторов

За пределами государственного развития ИИ-оружия скрывается угроза со стороны негосударственных акторов, получающих доступ к таким вооружениям и использующих их. Если ИИ-оружие станет легкодоступным и экономически эффективным, группы за пределами традиционных военных конфликтов смогут использовать его разрушительный потенциал. Сложность отслеживания происхождения такого оружия может позволить негосударственным акторам сеять хаос, сохраняя при этом правдоподобное отрицание, что ещё больше обострит глобальный кризис безопасности.

Тихая гонка вооружений с использованием ИИ становится глобальной проблемой

Последствия применения ИИ-оружия не остались незамеченными. В откровенном заявлении Владимир Путин подчеркнул, что доминирование в области ИИ равносильно глобальному господству, подчёркивая конкурентный характер текущей гонки вооружений с использованием ИИ. Ярким примером этой тенденции является беспрецедентная просьба Пентагона о выделении 145 миллиардов долларов для укрепления технологических возможностей и создания альянсов с инноваторами из частного сектора. Создание Управления стратегического капитала (OSC) для стимулирования частных инвестиций в военные технологии отражает стратегический фокус на «надёжном ИИ и автономии».

Роль Китая и этические вопросы

Китай, являющийся ключевым игроком в гонке искусственного интеллекта, повторяет стратегию США по достижению доминирования в сфере ИИ через свою политику слияния военных и гражданских технологий (MCF). Имея параллели с военно-промышленным комплексом США, стратегия Китая MCF направлена на достижение лидерства в технологиях ИИ. Сближение этих стратегий подчеркивает серьезность этических и правовых вопросов, связанных с применением ИИ в войне. Однако глобальное пространство не имеет единого органа для установления всеобъемлющих стандартов ИИ, что делает формирование международного консенсуса относительно минимальных стандартов использования ИИ в вооруженных конфликтах вопросом первостепенной важности.

Неограниченный потенциал больших языковых моделей становится тревожной перспективой

Развёртывание больших языковых моделей (LLM) в информационной войне порождает тревожные перспективы. Хотя модели вроде ChatGPT подвергались критике за генерацию ложной информации, более продвинутые LLM могут быть использованы государствами для распространения обманных нарративов против противников. Военная LLM может подпитывать фейковые новости, создавать глубокие подделки (deepfakes), усиливать фишинговые атаки и даже дестабилизировать информационную экосистему целой страны. Тот факт, что чиновник Министерства обороны США назвал ChatGPT «разговором дня», подчеркивает растущее признание мощи этой технологии.

Призыв к регулированию и сложный глобальный ландшафт

Американские компании в сфере ИИ, включая ChatGPT, призвали Конгресс к регулированию технологий искусственного интеллекта, признав необходимость этических руководств. Однако разграничение влияния государства и частного сектора представляет собой запутанную проблему. В Израиле, например, появились фирмы, занимающиеся технологиями двойного назначения, созданные бывшими военными чиновниками. Несмотря на использование ИИ-инструментов для военного целеуказания, эти технологии остаются в значительной степени нерегулируемыми, что ставит вопросы о эффективности систем управления ИИ.

Тикающие часы и глобальный ответ

В отличие от постепенного прогресса в регулировании ядерного оружия, гонка вооружений в области ИИ характеризуется стремительными темпами, подпитываемыми неуклонным развитием технологий. Узкое окно возможностей для установления эффективного регулирования ИИ быстро закрывается, что ставит перед международным сообществом критический вопрос: сможет ли оно действовать достаточно оперативно, чтобы предотвратить потенциальные опасности неконтролируемой гонки вооружений в сфере ИИ? По мере того как страны стремятся использовать потенциал ИИ, необходимость в совместных международных усилиях по определению этических стандартов и контролю распространения вооружений на базе ИИ никогда не была столь острой.