Глобальные агентства кибербезопасности выступают за подход «Безопасность по умолчанию» в руководстве по безопасности ИИ

Национальный центр кибербезопасности Великобритании (NCSC) и Агентство по кибербезопасности и инфраструктурной безопасности США (CISA), совместно с 22 партнёрами по кибербезопасности по всему миру, представили комплексный набор руководящих принципов, направленных на обеспечение безопасности систем искусственного интеллекта (ИИ). Подчёркивая философию «безопасности по умолчанию» (secure by design), руководство подробно рассматривает ключевые аспекты разработки ИИ, стремясь укрепить технологию против киберугроз и уязвимостей.

Совместное руководство под названием «Безопасность по умолчанию» (Secure by Design) выделяет растущие риски безопасности, связанные с приложениями ИИ и машинного обучения, конкретно addressing concerns stemming from supply chain vulnerabilities and models used in these systems.

Столпы безопасности

В рамках общей темы «Безопасность по умолчанию» руководство фокусируется на четырёх ключевых областях: безопасный дизайн, безопасная разработка, безопасное развертывание и безопасная эксплуатация и техническое обслуживание. Эти столпы в совокупности направлены на создание надежной структуры для защиты систем ИИ от потенциальных киберугроз.

Первый столп сознательно подчеркивает непреложную и первостепенную важность тщательного внедрения, начиная с самого начала концептуализации, глубокой и повсеместной приверженности безопасности-центричной этике в самой сути и структуре систем ИИ. Этот столп решительно подчеркивает и формулирует не подлежащее обсуждению необходимость для разработчиков усердно наполнять фундаментальную архитектуру системы повышенным и неколебимым вниманием к соображениям безопасности, тем самым эффективно и превентивно устраняя и смягчая уязвимости, тесно переплетенные с использованием сторонних моделей и API.

Следующий столп, бесшовно и органично succeeding the foundational tenet, expounds and extends the purview of the aforementioned security paradigm into the labyrinthine and nuanced realm of the developmental phase. 

Этот столп ardently and vehemently champions a comprehensive array of judicious and sagacious measures, including but not limited to the scrupulous and fastidious scrutiny of external APIs for potential lacunae and flaws, the judicious and circumspect limitation of the expanse and ambit of data transfers to external domains, and the assiduous and thoroughgoing scrutiny and sanitization of training data with an unwavering commitment to obviate and forestall any unforeseen and undesired manifestations of system behavior that may potentially compromise the hallowed sanctity of the security posture.

Решение проблем глобального соответствия требованиям безопасности ИИ

Несмотря на то, что руководство представляет собой значительный шаг в сторону международного сотрудничества в области безопасности ИИ, возникают проблемы, касающиеся принудительного исполнения. Том Гуаренте, вице-президент по внешним и государственным делам в Armis, выделяет потенциальную сложность для стран, не участвовавших в разработке руководства, по внедрению этих рекомендаций. Это ставит под вопрос, как обеспечить соблюдение глобально, особенно с учетом того, что такие крупные игроки, как Китай, Россия и Иран, еще не обязались соблюдать глобальные правила в области ИИ.

Гуаренте указывает на потенциальное различие в легкости внедрения, предполагая, что страны, участвовавшие в разработке руководства, могут найти его соблюдение более простым по сравнению с теми, кто был исключен из процесса разработки.

Хотя руководство обеспечивает коллективное признание критической роли кибербезопасности в быстро меняющемся ландшафте ИИ, проблемы сохраняются в обеспечении соблюдения этих мер в глобальном масштабе. Обеспокоенность Гуаренте отражает необходимость более широкого международного консенсуса и приверженности обеспечению безопасности ИИ.

Международное сотрудничество и проблемы в руководстве по безопасности ИИ

По мере того как мировое сообщество делает значительный шаг к установлению общих стандартов для безопасности ИИ, реальная проблема заключается в обеспечении широкого внедрения и соблюдения. Как международное сообщество может преодолеть разрыв и заручиться поддержкой стран, не участвующих в совместных усилиях? Путь к обеспечению безопасности ИИ определенно начался, но дорога впереди требует преодоления сложностей и формирования единой приверженности защите этой трансформационной технологии.