Что происходит, когда алгоритмы-убийцы опережают международное право?

Неосторожное использование алгоритмов искусственного интеллекта может иметь негативные последствия для человечества, превосходящие наше воображение. Несмотря на то, что за последние два года ИИ значительно продвинулся вперед, до сих пор отсутствуют глобальные правила, предотвращающие негативные последствия использования алгоритмов-убийц. 

Многие страны интегрируют искусственный интеллект в свои военные системы для распознавания целей и повышения огневой мощи, но его неосторожное использование приводит к разрушительным последствиям. Негативное влияние ИИ также отчетливо проявляется в подрыве демократических процессов путем попыток изменить общественное мнение с помощью ложных заявлений и дезинформации.

Алгоритмы-убийцы отнимают жизни невинных людей

В последнее время мы наблюдаем заявления многих стран об интеграции ИИ в военные системы, а также запуск довольно большого числа военныхtrac, использующих ИИ для наведения и ведения огня, от беспилотников до радиолокационных систем, а также систем наблюдения для распознавания человеческих целей. 

Наиболее небрежное применение силы наблюдалось в действиях Израиля, который наносил удары по населению Газы, создавая списки целей с помощью алгоритмов-убийц, которые часто оказывались неверными или применялись с преступной халатностью, убивая десятки и сотни невинных мирных жителей, причем в качестве основной цели был указан один потенциальный человек. Представьте себе тот хаос, который это вызвало среди гражданского населения Газы, убив тысячи детей и женщин, как выразился один чиновник, назвав это «хладнокровным» действием машины. Серьезно? Хладнокровное убийство мирных жителей — это реальность того, насколько жестокими могут быть алгоритмы-убийцы.

Недавнее расследование израильского издания +972 Magazine выявило поразительные факты об использовании израильскими силами искусственного интеллекта для авиаударов. Система, известная как Lavender, использовалась для составления списков тысяч предполагаемых боевиков, а другая система, Gospel, — для выбора зданий и объектов инфраструктуры в качестве целей. Стратегия заключалась в том, чтобы наносить удары по членам ХАМАС, даже если они находились в своих домах в жилых районах, убивая при этом сотни мирных жителей. 

В докладе представлены интервью с шестью источниками в израильской разведке, имена которых были засекречены в целях безопасности. Источники утверждали, что использовали Lavender, наряду с другими системами искусственного интеллекта, для выбора целей. Они также обсуждали мягкость регулирования использования этих систем и свои оценки числа убитых или допущенных к гибели мирных жителей в качестве сопутствующих жертв, причем каждый высокопоставленный или низкопоставленный чиновник ХАМАС имел двух- или трехзначный номер. 

Но реальные цифры, похоже, значительно превышают эти допустимые оценки, которые и без того были самыми высокими по сравнению с событиями современных войн по всему миру. Число детей, погибших за первые три месяца войны, также превысило число детей, погибших в войнах по всему миру. Даже просто думать о них душераздирающе.

Глобальное регулирование по-прежнему отсутствует

Несмотря на то, что алгоритмы искусственного интеллекта, созданные для уничтожения людей на войнах, убивают людей, кажется, что мировые лидеры прилагают недостаточно усилий для того, чтобы остановить эту угрозу. Не существует свода глобальных правил использования ИИ в военных действиях, хотя убийство людей и повреждение важнейшей инфраструктуры с целью лишения гражданского населения основных человеческих потребностей является явным военным преступлением. 

Мы видим лишь пустые обещания мировых лидеров, за которыми следует очередная поставка оружия из США, которое может быть использовано в сотрудничестве с упомянутыми алгоритмами-убийцами на основе искусственного интеллекта. Единственным юридическим действием стало обращение Южной Африки в Международный суд за военные преступления против Израиля.

Вооруженные силы по всему миру пытаются использовать искусственный интеллект, и многие страны стремятся получить военное преимущество, развертывая эти системы. Геополитическая напряженность также подпитывает эти достижения, поскольку страны от США до Китая спешат разработать системы ИИ для выбора целей и принятия решений, чтобы ускорить эти процессы. 

До сих пор заявлялось о большей точности и меньшем гражданском ущербе от внедрения искусственного интеллекта, но реальная ситуация противоречит этим заявлениям, и опасность алгоритмов-убийц намного превосходит заявленную точность, что требует активных усилий по регулированию ИИ на глобальном уровне.

Отчеты журнала +972 Magazine можно найти здесь.