Рост роли ИИ в принятии решений

Взрывное развитие искусственного интеллекта (ИИ) наполняет наш мир либо идеалистическими мечтами, либо апокалиптическими предсказаниями, однако ни одно из них не отражает реальной угрозы.

Мы не сталкиваемся с «большим восстанием роботов», где ИИ или роботы совершают враждебный захват. Забудьте о сценах из фильмов «Терминатор» или «Матрица» — это не входит в планы. Технологии для захвата мира ИИ еще не существует.

ИИ может преуспевать в конкретных задачах, таких как сворачивание белков или игра в шахматы, но он не способен создавать армии или управлять государствами.

Однако отсутствие восстания роботов не означает, что мы в безопасности. ИИ незаметно проникает в нашу жизнь менее драматичными, но столь же мощными средствами: через цифровую бюрократию.

Настоящая опасность заключается не в убийственных роботах. Она в проникновении ИИ в процессы принятия решений, контролирующих нашу повседневную жизнь. Люди эволюционно научились бояться осязаемых угроз. Вспомните крупных хищников, таких как львы и акулы.

Но мы менее готовы замечать угрозы, исходящие от бумажной волокиты, документов или бюрократии. Сама бюрократия — относительно новое изобретение, появившееся лишь 5000 лет назад с созданием письменности.

До появления письменности, например, право собственности зависело от согласия сообщества. Если вы «владели» участком земли, это было потому, что ваши соседи это уважали. Никакие документы не требовались. 

От глиняных табличек до цифровых бюрократов

Все изменилось, когда люди начали использовать глиняные таблички и записи. Письменные документы означали, что права собственности больше не зависели от консенсуса сообщества, а от официальных записей. Древние месопотамцы превратили комки грязи в официальные символы права собственности, перевернув само понятие владения.

Решение суда могло основываться на глиняной табличке, утверждающей, что вы владеете участком земли, даже если сообщество с этим не согласилось. Перейдем к сегодняшнему дню: наши системы все еще построены на аналогичных принципах, только теперь мы используем кремниевые чипы и цифровые записи вместо глины.

Этот сдвиг трансформировал структуры власти. Право собственности стало чем-то, что можно было продавать и обменивать без одобрения местного сообщества. Возникли бюрократии, сделавшие возможным сбор налогов, финансирование армии и централизованное управление государством.

Бюрократы стали ключевыми игроками в этих системах, используя записи, формы и печати для управления армиями, распределения ресурсов и даже контроля законов. Эти бюрократические системы породили централизованные государства с широким контролем над населением, контроль теперь переходит к ИИ.

ИИ не нужно поднимать армию роботов; ему нужно лишь овладеть бюрократическими системами. В рамках этих структур ИИ может принимать более влиятельные решения, чем любой человек, что мы видим сегодня. ИИ уже решает, получаем ли мы кредиты, предложения о работе, зачисление в колледж и даже медицинские диагнозы.

Представьте себе ИИ-банкиров, определяющих кредитоспособность, ИИ-судей, выносящих решения по судебным делам, или военных ИИ, рассчитывающих цели для ударов. ИИ не нужен бунт роботов. Бюрократическая власть, которую он наследует, уже огромна.

ИИ в социальных сетях и общественном влиянии

Алгоритмы социальных сетей, хотя и примитивны, уже wieldят огромной властью. Алгоритмы ИИ, особенно от Facebook, X (ранее Twitter), YouTube и TikTok, создаются с одной целью: вовлечение пользователей. Чем дольше люди остаются на этих платформах, тем больше денег поступает корпорациям. 

Методом проб и ошибок с миллиардами пользователей эти алгоритмы выяснили, что вызов эмоций, таких как жадность, гнев и страх, увеличивает вовлеченность. Нажимая на эти эмоциональные кнопки, они удерживают пользователей в сети.

Эти алгоритмы не остановились на оптимизации времени, проведенного онлайн. Они пошли дальше, обнаружив, что контент, вызывающий сильные эмоции, повышает вовлеченность пользователей. Это открытие привело к распространению теорий заговора, дезинформации и социальных разногласий.

Сегодняшний мир переполнен цифровым возмущением, нагнетанием страха и поляризацией благодаря алгоритмам, которые ставят клики выше сплоченности. Эксплуатируя эмоциональные триггеры, алгоритмы социальных сетей подпитывают нынешнюю эпидемию теорий заговора и фейковых новостей.

Эти алгоритмические «решатели» не являются злонамеренными по своей природе. Напротив, они оптимизированы для эффективного выполнения своих задач. Тем не менее их решения лишены человеческой интуиции или контекста, которые мы обычно ожидаем в таких важных сферах.

ИИ может принимать более быстрые или последовательные суждения, но если что-то пойдет не так, последствия могут быть катастрофическими. Эта потенциальная угроза уже стала очевидной во влиянии социальных сетей на общество, служа предупреждением о том, к чему может привести неконтролируемая власть ИИ.

Байден устанавливает правила ИИ для Пентагона и разведывательных ведомств

Президент Джо Байден объявил меморандум о национальной безопасности с новыми правилами использования ИИ в сфере национальной безопасности, предотвращающими использование Пентагоном и разведывательными ведомствами ИИ способами, противоречащими демократическим ценностям.

Это первый директива, регулирующая роль ИИ в национальной безопасности. Новые правила будут поощрять эксперименты с ИИ, одновременно гарантируя, что государственные органы не будут использовать ИИ для нарушения прав, таких как свобода слова, или подрыва ядерного контроля.

«Наш меморандум направляет первую в истории правительственную систему-wide рамку по обязательствам в области управления рисками ИИ», — сказал советник по национальной безопасности Джейк Салливан. Он изложил цели по предотвращению предвзятости, поддержанию подотчетности и обеспечению человеческого надзора за ИИ в чувствительных ролях.

Хотя правила не имеют юридической силы, они охватывают приложения в сфере национальной безопасности, такие как кибербезопасность, контрразведка и логистика в военных операциях. Байден также ввел экспортный контроль в прошлом году, замедлив развитие ИИ в Китае, ограничив доступ к технологиям.

Согласно директиве, Институт безопасности ИИ в Вашингтоне будет отвечать за проверку инструментов ИИ на предмет предотвращения их misuse до выпуска, при этом разведывательное сообщество США будет приоритизировать мониторинг развития ИИ в других странах.