Несмотря на незрелость ИИ, идёт спешка с его внедрением в боевых действиях

Недавно заголовки были посвящены достижениям в области искусственного интеллекта. Однако ИИ существует уже несколько десятилетий и останется важной частью ведения войн в будущем для широкого спектра военных и оборонных задач.

Это касается не только военных; возможно, вы читаете этот текст на устройстве, которое уже сильно зависит от искусственного интеллекта, поэтому вы, вероятно, уже использовали ИИ в той или иной форме ещё до недавней шумихи. 

Скорее всего, ИИ применялся в любой ситуации, когда вы что-то покупали онлайн, например еду или развлечения, разблокировали телефон с помощью лица или отпечатка пальца, пользовались социальными сетями или планировали путешествие через мобильное приложение. 

Мы привыкли к ИИ разными способами, часто даже не осознавая этого, интегрируя его в нашу повседневную жизнь.

Военный ИИ существует со времён Второй мировой войны

Хотя оружие способно принимать некоторые решения ещё со времён Второй мировой войны, искусственный интеллект теперь позволяет им принимать гораздо больше решений и в конечном итоге сделает их повсеместными. 

Что, если кто-то подвергнется нападению и его личность будет определена с помощью такого программного обеспечения для распознавания лиц? Вместо того чтобы определять лучший ресторан, что, если подобное программное обеспечение будет направлять самолеты для нанесения авиаудара по цели? 

Также читайте: Предвещает ли внедрение военных систем на базе ИИ мрачный поворот в ведении войны?

На данный момент это выглядит как действительно серьезная проблема. Вопрос в том, могут ли системы ИИ самостоятельно принимать решения, от которых зависят жизни людей? Их точность не идеальна и варьируется в зависимости от ситуации, и мы знаем, что они ошибаются.

В реальных зонах конфликтов ИИ уже выбирает, кого атаковать, например, в Газе и Украине. Согласно исследованиям, опубликованным в израильском новостном издании +972 Magazine, Израиль якобы использовал систему искусственного интеллекта под названием Lavender с минимальным участием человека в принятии решений для выбора возможных целей, что привело к значительному числу жертв среди гражданского населения.

Машины действуют бесстрастно

Недавно Австрия провела конференцию, посвященную регулированию оружия на базе ИИ, чтобы справиться с его разрушительными последствиями. ИИ уже ведет боевые действия и атакует людей и их поселения. Министр иностранных дел Австрии Александр Шалленберг заявил:

«Мы не можем упустить этот момент без принятия мер. Настало время договориться о международных правилах и нормах, чтобы обеспечить человеческий контроль.»

Источник: Reuters.

Технологии, которые многие армии разворачивают в зонах боевых действий, всё ещё далеки от зрелости и пока не используются для принятия решений о том, кого поражать. Технологии, которые мы называем «интеллектуальными», пока не обладают возможностями даже кошачьего мозга; даже эксперты говорят, что если в ближайшие годы мы достигнем уровня интеллекта мыши, это будет большим достижением. 

Но степень зависимости от них так высока, что они жестоко применяются таким образом, который дегуманизирует как цель, так и того, кто обладает огневой мощью. Это поднимает серьёзные вопросы с точки зрения морали, гуманитарных норм и этики. 

Как люди, мы испытываем обиды, но чтобы предотвратить горе солдата, армии теперь могут использовать это новое оружие, как упоминает +972 Magazine со ссылкой на секретный источник из разведки, который сказал:

«Машина сделала это холодно. И это сделало её проще».

Источник: +972 Magazine.

Действительно ли важно участие людей в процессе выбора целей? Когда его спросил другой пользователь Lavender, он ответил, что в тот момент он бы потратил 20 секунд на каждую цель и обрабатывал десятки таких целей каждый день. Помимо официального одобрения, он не представлял никакой дополнительной ценности как человек. Это было довольно экономично по времени.

Легко понять, какую власть принятия решений мы, люди, добровольно передаём машинам.

Международные соглашения всё ещё далеко

Соединённые Штаты инициировали регуляторные усилия через реализацию Политической декларации об ответственном военном использовании искусственного интеллекта и автономии. Прокламация также включает Австралию. Однако международное соглашение всё ещё очень далеко.

В декларации отмечается, что обеспечение гарантий является необходимым, поскольку в ней говорится,

«Государства должны внедрять соответствующие меры предосторожности для снижения рисков сбоев в возможностях военного ИИ, таких как способность обнаруживать и избегать непредвиденных последствий и способность реагировать, например, путем отключения или деактивации развернутых систем, когда такие системы демонстрируют непреднамеренное поведение.»

Источник: Министерство иностранных дел США.

Документ также подчеркивает, что использование ИИ в военных целях «может и должно» быть этичным, наряду с укреплением международной безопасности. Однако реальность показывает совершенно иную картину, как обсуждалось выше.

Поиск и обнаружение военного персонала противника — одно из применений таких систем; учитывая бурное развитие технологий, мы не знаем, какие еще сложные военные применения могут появиться. 

Также читайте: Kaspersky опровергает утверждения о помощи российским военным

Дискуссия об исключении ИИ из ведения войны, похоже, сейчас не вариант, но законодатели по всему миру и правительства, вовлеченные в конфликты, должны учитывать отсутствие у ИИ необходимых возможностей и потенциальный хаос, который он может причинить нам, людям.

В настоящее время процесс принятия политических решений не успевает за темпами инноваций, и это необходимо хотя бы частично исправить, если не полностью. Мы не можем просто сидеть и говорить: «Вау! ИИ совершил ещё 1000 убийств. Что же он предложит дальше?». Мы пока этого не знаем, но вопрос о том, что должны делать политики, касается не только гениев.

Материал Cryptopolitan от Амира Шейха