В последнее время заголовки новостей сосредоточены на достижениях в области искусственного интеллекта. Но ИИ существует уже несколько десятилетий, и он будет продолжать играть важную роль в ведении войны в будущем, применяясь в самых разных военных и оборонных целях.
Речь идёт не только о военных; возможно, вы читаете этот текст на устройстве, которое уже в значительной степени использует искусственный интеллект; таким образом, вы, вероятно, уже использовали ИИ в той или иной степени ещё до недавнего ажиотажа.
Искусственный интеллект, скорее всего, уже применялся в любой ситуации, когда вы оплачивали что-либо онлайн, например, еду или развлечения, использовали свое лицо или отпечаток пальца для разблокировки телефона, взаимодействовали с социальными сетями или бронировали поездки через мобильное приложение.
Мы привыкли к искусственному интеллекту в различных формах, внедряя его — зачастую неосознанно — в свою повседневную жизнь.
Военный искусственный интеллект существует со времён Второй мировой войны
Хотя оружие способно принимать некоторые решения ещё со времён Второй мировой войны, искусственный интеллект позволяет ему принимать гораздо больше решений и в конечном итоге сделает их обычным явлением.
Что если кто-то подвергнется нападению, и егоdentбудет установлена с помощью подобного программного обеспечения для распознавания лиц? Вместо того чтобыdentлучший ресторан, что если аналогичное программное обеспечение будет направлять самолеты для нанесения авиаудара по цели?
Читайте также: Предвещает ли внедрение военных систем на основе ИИ зловещий поворот в войне?
Пока что это выглядит как действительно серьезная проблема. Вопрос в том, могут ли системы искусственного интеллекта действительно самостоятельно принимать решения, от которых зависит жизнь или смерть? Их точность не идеальна и варьируется в зависимости от ситуации, и мы знаем, что они не всегда правы.
В реальных зонах конфликтов ИИ уже выбирает, кого атаковать, например, в Газе и Украине. Согласно исследованию, опубликованному в израильском новостном издании +972 Magazine, Израиль, как сообщается, использовал систему искусственного интеллекта (ИИ) под названием Lavender, которая имеет минимальные возможности применения человеческого мышления для принятия решений, для выбора потенциальных целей, что привело к значительному числу жертв среди гражданского населения.
Машины могут сделать это хладнокровно
Недавно в Австрии состоялась конференция, посвященная регулированию оружия, созданного с использованием искусственного интеллекта, с целью предотвращения разрушительных последствий его применения. Искусственный интеллект уже используется в боевых действиях против людей и их поселений. Министр иностранных дел Австрии Александр Шалленберг заявил:
«Мы не можем упустить этот момент, не предприняв никаких действий. Сейчас самое время согласовать международные правила и нормы, обеспечивающие контроль за деятельностью человека»
Источник: Reuters .
Технологии, которые многие армии развертывают в зонах боевых действий, еще далеки от зрелости и пока не используются для определения целей. Технологии, которые мы называем интеллектуальными, пока не обладают такими же возможностями, как кошачий мозг; даже эксперты говорят, что если в ближайшие годы мы достигнем уровня интеллекта мыши, это будет большим достижением.
Однако уровень зависимости от него настолько высок, что он используется жестоко, дегуманизируя как цель, так и того, кто обладает огневой мощью. Это поднимает серьезные вопросы морального, гуманитарного и этического характера.
Как люди, мы все имеем обиды, но чтобы предотвратить страдания скорбящего солдата, военные теперь могут использовать это новое оружие, как сообщает журнал +972 со ссылкой на секретный источник в разведке, который сказал:
«Машина сделала это хладнокровно. И это облегчило задачу»
Источник: журнал +972 .
Действительно ли важно, чтобы люди участвовали в процессе отбора? На вопрос другого пользователя Lavender он ответил, что в этом случае уделял бы каждой цели 20 секунд и выполнял бы десятки таких задач каждый день. Поскольку, помимо официального подтверждения качества, он не представлял никакой дополнительной ценности как человек. Это значительно экономило время.
Нетрудно понять, какую огромную власть над принятием решений мы, люди, охотно отдаем машинам.
До заключения международных соглашений еще далеко
Соединенные Штаты инициировали меры по регулированию посредством реализации Политической декларации об ответственном военном использовании искусственного интеллекта и автономии. В декларацию также включена Австралия. Однако до заключения международного соглашения еще очень далеко.
В декларации отмечается, что обеспечение гарантий имеет важное значение, поскольку в ней говорится, что:
«Государствам следует внедрить соответствующие меры защиты для снижения рисков сбоев в работе военных систем искусственного интеллекта, такие как способность обнаруживать и предотвращать непредвиденные последствия, а также способность реагировать, например, путем отключения или деактивации развернутых систем, когда такие системы демонстрируют непредусмотренное поведение»
Источник: Государственный департамент США .
В документе также подчеркивается, что использование ИИ в армии «может и должно быть» этичным, а также способствовать укреплению международной безопасности. Однако, как обсуждалось выше, реальная ситуация говорит об обратном.
Обнаружение и определение местоположения вражеских военнослужащих — одно из применений таких систем; учитывая инновации в области взрывных работ, мы даже не представляем, какие еще сложные военные применения могут появиться.
Читайте также: «Лаборатория Касперского» опровергает обвинения в оказании помощи российским военным.
Дискуссия об исключении ИИ из военных действий, похоже, на данном этапе неактуальна, но законодатели по всему миру и правительства, участвующие в конфликтах, должны учитывать ограниченные возможности ИИ и потенциальный хаос, который он может причинить нам, людям.
В настоящее время разработка политики не успевает за темпами инноваций, и это необходимо в какой-то степени, если не полностью, исправить, поскольку мы не можем просто сидеть и говорить: «Ух ты! ИИ совершил еще 1000 убийств». Что же предложит ИИ? Мы пока не знаем, но вопрос о том, чем должны заниматься политики, — это не только вопрос для гениев.
Репортаж Аамира Шейха для издания Cryptopolitan
