Разведывательные агентства Великобритании выступают за смягчение регулирования ИИ на фоне опасений по поводу слежки

По сообщениям, разведывательные агентства Великобритании, включая МИ-5 и МИ-6, призывают правительство Великобритании принять более мягкий подход к регулированию искусственного интеллекта (ИИ). Это происходит на фоне независимого обзора, заказанного Министерством внутренних дел Великобритании для оценки возможных поправок к Закону о расследовательских полномочиях 2016 года (IPA), который регулирует пересечение расследовательских полномочий и права на неприкосновенность частной жизни.

Обзор предлагает ослабить защиту данных при обучении ИИ

Обзор, возглавляемый членом Палаты лордов Дэвидом Андерсоном, выделяет ключевое предложение по ослаблению нормативных требований к защите данных в отношении наборов персональных данных массового характера (BPD), которые могут использоваться для обучения систем ИИ. Расследование Андерсона предполагает, что текущий IPA может потребовать полной переработки в 2030-х годах, чтобы учесть достижения в области технологий ИИ.

IPA был первоначально введен после разоблачений Эдварда Сноудена в 2013 году о том, что Национальное агентство безопасности США собирало записи о телефонных звонках тысяч клиентов Verizon в целях слежки.

Баланс между ИИ и слежкой

Дэвид Андерсон признает, что ИИ представляет собой одно из самых значительных технологических достижений со времени введения IPA. Однако он также отмечает, что роль ИИ в обеспечении безопасности остается тонким балансом между продвижением мер безопасности и непреднамеренным облегчением деятельности потенциальных злоумышленников. Он подчеркивает, что надежное предсказание этого баланса является сложной задачей.

Акт ЕС об ИИ и категоризация ИИ

Акт Европейского Союза об ИИ (EU AI Act) направлен на категоризацию инструментов ИИ на основе уровня риска, учитывая такие факторы, как биометрическая слежка и потенциальные алгоритмические предубеждения. Однако этот акт подвергся критике со стороны крупных технологических компаний, которые рассматривают его как потенциальный барьер для инноваций из-за строгих правил, налагаемых на категоризацию ИИ высокого риска.

ИИ в сфере слежки поможет в мониторинге активов и внутреннем использовании

Недавний опрос, проведенный GlobalData, показал, что 17% компаний уже используют ИИ для мониторинга активов и целей слежки. Кроме того, ИИ все чаще проникает в сферу внутренней слежки.

Национальное геопространственное разведывательное агентство США уже интегрировало ИИ в свои операции для ускорения анализа изображений. Однако агентство явно заявило, что ИИ не используется для шпионажа за американцами, а служит для улучшения аналитических возможностей.

Этические проблемы, связанные с интеграцией ИИ в системы слежки

Несмотря на потенциальные преимущества ИИ в сборе и анализе разведывательных данных, возникают этические вопросы при рассмотрении его интеграции в цикл «наблюдение, ориентация, решение, действие (OODA)». Бенджамин Чин, аналитик-стажер в GlobalData, задается вопросом, какая доля контроля передается ИИ в таких сценариях.

Чин признает компетентность ИИ в задачах разведки и предполагает, что в будущем он может превзойти людей. Однако он предупреждает, что текущие технологии все еще подвержены предвзятости и ошибкам, что может подорвать его репутацию как надежного инструмента слежки.

Более того, алгоритмы ИИ часто работают по модели «черного ящика», делая процессы принятия решений непрозрачными и трудными для объяснения. Это отсутствие прозрачности вызывает опасения относительно доверия к системе, внутреннее устройство которой не может быть полностью понято.

Тематический отчет GlobalData 2023 года об ИИ подчеркивает, что по мере того как ИИ все больше вовлекается в решения, меняющие жизнь, прозрачность и объяснимость станут важнейшими качествами, которые разработчикам ИИ необходимо учитывать.

Текущие дебаты вокруг интеграции ИИ в операции слежки и разведки подчеркивают тонкий баланс между вопросами безопасности и конфиденциальности. В то время как разведывательные агентства Великобритании стремятся к более мягкому подходу к регулированию ИИ, этические соображения и необходимость прозрачности и объяснимости остаются критически важными при использовании ИИ в таких критических сферах. По мере развития технологий политики и эксперты должны работать вместе, чтобы найти баланс, который защищает как национальную безопасность, так и индивидуальные права.