Правительство предупредили об этичном использовании ИИ в военных действиях

Правительство Великобритании было предупреждено о своих амбициозных планах по внедрению искусственного интеллекта (ИИ) в оборону, особенно в автономные системы вооружения (AWS) с поддержкой ИИ. В докладе Палаты лордов по искусственному интеллекту, представленном Комитету по системам вооружения, подчеркивается необходимость учета этических и правовых аспектов, общественного доверия и демократической поддержки при разработке и использовании ИИ, особенно в отношении автономных систем вооружения.

Потенциальная интеграция ИИ в боевые действия через AWS преподносится как революционный прорыв в оборонных технологиях. Однако комитет Палаты лордов подчёркивает важность осторожного и ответственного подхода к использованию этих преимуществ без ущерба для этических и правовых принципов.

Ключевые рекомендации

В отчете комитета Палаты лордов представлено несколько ключевых рекомендаций, определяющих подход правительства к использованию ИИ в военных действиях:

1. Лидерство в международном регулировании

Правительству Великобритании настоятельно рекомендуется взять на себя ведущую роль в международном взаимодействии по регулированию ядерных боеприпасов. Результаты международных обсуждений могут привести либо к заключению юридически обязывающего договора, либо к принятию необязательных мер, разъясняющих применение международного гуманитарного права. Кроме того, Великобритании следует возглавить усилия по запрету использования ИИ в системах управления, контроля и связи с ядерным оружием.

2. Установление рабочего defi

Удивительно, но в настоящее время у правительства Великобритании нет рабочего defiпонятия «AWS». Комитет предлагает создать defi, ориентированное на будущее, которое будет способствовать разработке политики и участию в международных диалогах. Чёткое defiнеобходимо для содержательного участия в обсуждениях, касающихся AWS.

3. Обеспечение человеческого контроля

Комитет подчеркивает важность сохранения человеческого контроля на всех этапах жизненного цикла AWS. Это включает в себя развертывание, обеспечивающее моральную свободу действий человека и соблюдение правовых норм в соответствии с международным гуманитарным правом. В докладе подчеркивается приверженность Великобритании этим требованиям.

4. Модернизация процессов закупок

Процессы закупок Министерства обороны подвергаются критике за недостаточную подотчётность и чрезмерную бюрократизацию. Кроме того, министерству не хватает возможностей в области программного обеспечения и данных, которые играют ключевую роль в разработке искусственного интеллекта. Комитет предупреждает о возможной необходимости кардинальных изменений, подчёркивая необходимость срочного решения этих проблем.

Перспектива председателя

Лорд Лисвейн, председатель Комитета по искусственному интеллекту в системах вооружения, отметил: «Искусственный интеллект проник в различные аспекты нашей жизни, и оборона не является исключением. Его потенциал революционизировать оборонные технологии является предметом споров и разногласий. Хотя ИИ может обеспечить существенные стратегические и боевые преимущества, в нашем докладе «Действуйте осторожно: искусственный интеллект в системах вооружения» подчеркивается необходимость осторожного подхода со стороны правительства».

Лорд Лисвейн далее заявил: «Мы приветствуем признание правительством роли ответственного ИИ в будущих оборонных возможностях. Однако этические и правовые принципы должны быть интегрированы на каждом этапе внедрения ИИ в AWS, а также должны быть приняты меры по обеспечению общественного понимания и демократической поддержки. Технологии должны расширять наши возможности, но не в ущерб нашим моральным принципам».

В докладе комитета Палаты лордов подчеркивается преобразующий потенциал ИИ в сфере обороны, а также содержится призыв к правительству Великобритании действовать осторожно, ответственно и прозрачно. В рекомендациях подчеркивается важность международного лидерства, оперативной прозрачности, человеческого контроля и обновленного процесса закупок для обеспечения использования ИИ в интересах национальной безопасности без ущерба для этики и законности.

По мере развития глобальной ситуации в эпоху ИИ подход Великобритании к использованию ИИ в военных действиях, несомненно, повлияет на международные дискуссии и правила, формируя будущее автономных систем оружия во всем мире.