Что происходит, когда убийственные алгоритмы опережают международное право

Безответственное использование алгоритмов искусственного интеллекта может иметь негативные последствия для человечества, выходящие за рамки нашего воображения. Глобальное регулирование все еще не создано для предотвращения негативных эффектов убийственных алгоритмов, несмотря на то, что ИИ продвинулся на много шагов вперед за последние два года. 

Многие страны интегрируют искусственный интеллект в свои военные системы для распознавания целей и ускорения огневой мощи, но его безответственное использование разрушительно. Негативное влияние ИИ также четко видно в нарушении демократических процессов путем попыток изменить общественное мнение с помощью ложных утверждений через дезинформацию.

Убийственные алгоритмы, отнимающие невинные жизни

Недавно мы видели объявления об интеграции ИИ в военные системы от многих стран, и довольно большое количество военных подрядчиков запускают свои системы наведения и огня, усиленные ИИ, от дронов до радарных систем, а также систем наблюдения для распознавания человеческих целей. 

Самое безответственное развертывание было замечено в действиях Израиля, нацеленного на население Газы путем генерации списков целей через убийственные алгоритмы, которые часто ошибочны или развертываются с уголовной халатностью, убивая десятки и сотни невинных гражданских лиц, при этом одним предполагаемым потенциальным индивидуумом является основная цель. Представьте себе хаос, который это принесло гражданским людям Газы, убивая тысячи детей и женщин, как один чиновник выразился, машина сделала это холодно. Правда? Убийство гражданских лиц в холодном крову — это реальность того, насколько жестокими могут стать убийственные алгоритмы.

Недавнее расследование израильской публикации, журнала +972 Magazine, выявило поразительные факты об использовании ИИ израильскими силами для авиаударов. Система, известная как Lavender, использовалась для генерации списков тысяч подозреваемых боевиков, а другая система под названием Gospel — для выбора зданий и инфраструктуры в качестве целей. Стратегия заключалась в нацеливании на лиц ХАМАС, даже если они находились в своих домах в гражданских районах, убивая сотни гражданских лиц по пути. 

В отчете включены интервью с шестью израильскими источниками разведки, имена которых были сохранены в секрете ради безопасности источников. Источники утверждали об использовании Lavender вместе с другими системами ИИ для выбора целей. Они также обсудили мягкость регулирования использования этих систем и свою оценку гражданских лиц, убиваемых или допускаемых к убийству как сопутствующего ущерба, при этом каждый высокопоставленный или рядовой чиновник ХАМАС оценивался в диапазоне от двух до трех цифр. 

Однако фактические цифры, по-видимому, далеко превышают эти допустимые оценки, которые уже были самыми высокими по сравнению с событиями современных войн по всему миру. Количество убитых детей за первые три месяца войны также превысило количество детей, погибших в войнах по всему миру. Просто думать об этом — сердце разрывается.

Глобальное регулирование все еще отсутствует

Несмотря на то, что убийственные алгоритмы ИИ убивают людей на войнах, усилий глобальных лидеров для остановки этой угрозы, похоже, недостаточно. Не существует набора глобальных правил использования ИИ в военных действиях, несмотря на то, что убийство людей и повреждение критической инфраструктуры, лишающее гражданское население базовых человеческих потребностей, является очевидным военным преступлением. 

То, что мы видим, — это пустые слова глобальных лидеров, за которыми следует еще одна поставка оружия из США, которое может использоваться в сотрудничестве с упомянутыми убийственными алгоритмами на базе ИИ. Единственным юридическим действием стала подача ЮАР иска в Международный суд ООН по обвинению Израиля в военных преступлениях.

Военные силы по всему миру пытаются использовать искусственный интеллект, и многие страны пытаются получить военное преимущество, развертывая эти системы. Геополитическая напряженность также подпитывает эти достижения, поскольку страны от США до Китая спешат разработать системы ИИ для выбора целей и принятия решений, чтобы ускорить процессы.

До сих пор утверждалось, что внедрение искусственного интеллекта обеспечивает большую точность и меньший ущерб гражданскому населению, но реальность на местах противоречит этим заявлениям, а опасности убийственных алгоритмов значительно превышают заявления о точности, что требует надежных усилий по регулированию ИИ на глобальном уровне.

Статьи в журнале +972 можно найти здесь.