Международные агентства по кибербезопасности выступают за подход «безопасность по умолчанию» в рекомендациях по обеспечению безопасности ИИ

Национальный центр кибербезопасности Великобритании (NCSC) и Агентство кибербезопасности и защиты инфраструктуры США (CISA) совместно с 22 партнерами по кибербезопасности со всего мира представили всеобъемлющий набор рекомендаций по обеспечению безопасности систем искусственного интеллекта (ИИ). Подчеркивая философию «безопасность по умолчанию», руководство углубляется в важнейшие аспекты разработки ИИ, стремясь укрепить технологию против киберугроз и уязвимостей.

В совместном руководстве под названием «Безопасность по умолчанию» подчеркиваются растущие риски безопасности, связанные с приложениями искусственного интеллекта и машинного обучения, в частности, рассматриваются проблемы, возникающие из-за уязвимостей в цепочках поставок и моделей, используемых в этих системах.

Основы безопасности

В рамках общей концепции «Безопасность на этапе проектирования» рекомендации сосредоточены на четырех ключевых областях: безопасное проектирование, безопасная разработка, безопасное развертывание, а также безопасная эксплуатация и техническое обслуживание. Эти составляющие в совокупности призваны создать надежную основу для защиты систем искусственного интеллекта от потенциальных киберугроз.

Первый раздел целенаправленно подчеркивает неоспоримую и первостепенную важность тщательного внедрения, с самого начала концептуализации, глубокой и всеобъемлющей приверженности принципам безопасности в саму суть и структуру систем искусственного интеллекта. Этот раздел решительно подчеркивает и формулирует непреложную необходимость для разработчиков неустанно внедрять в базовую архитектуру системы повышенное и непоколебимое внимание к вопросам безопасности, тем самым эффективно и заблаговременно устраняя и смягчая уязвимости, тесно связанные с использованием сторонних моделей и API.

Следующий раздел, органично и плавно следующий за основополагающим принципом, развивает и расширяет сферу действия вышеупомянутой парадигмы безопасности в запутанную и сложную область этапа развития. 

Этот принципdentи неуклонно отстаивает всеобъемлющий набор разумных и продуманных мер, включая, помимо прочего, тщательную и скрупулезную проверку внешних API на наличие потенциальных пробелов и недостатков, разумное и осмотрительное ограничение объема и масштаба передачи данных во внешние домены, а также бережную и тщательную проверку и очистку обучающих данных с непоколебимой приверженностью предотвращению любых непредвиденных и нежелательных проявлений поведения системы, которые потенциально могут поставить под угрозу священную неприкосновенность системы безопасности.

Решение проблем, связанных с обеспечением соответствия требованиям глобальной безопасности ИИ

Несмотря на то, что эти руководящие принципы представляют собой значительный шаг на пути к международному сотрудничеству в области безопасности ИИ, возникают проблемы, касающиеся их соблюдения. Том Гуаренте, вице-dent по внешним и правительственным связям компании Armis, подчеркивает потенциальные трудности для стран, не участвовавших в разработке руководящих принципов, в реализации этих рекомендаций. Это поднимает вопросы о том, как обеспечить их соблюдение на глобальном уровне, особенно с учетом того, что такие крупные игроки, как Китай, Россия и Иран, еще не взяли на себя обязательства по глобальному регулированию ИИ.

Гуаренте указывает на потенциальные различия в простоте внедрения, предполагая, что странам, участвовавшим в разработке руководящих принципов, может быть проще их соблюдать по сравнению с теми, кто был исключен из процесса разработки.

Хотя эти рекомендации в совокупности признают критически важную роль кибербезопасности в быстро развивающемся мире искусственного интеллекта, сохраняются проблемы с обеспечением соблюдения этих мер в глобальном масштабе. Опасения Гуаренте отражают необходимость более широкого международного консенсуса и приверженности обеспечению безопасности ИИ.

Международное сотрудничество и проблемы в области обеспечения безопасности ИИ

Поскольку мировое сообщество делает значительный шаг к установлению общих стандартов безопасности ИИ, настоящая проблема заключается в обеспечении широкого внедрения и соблюдения этих стандартов. Как международное сообщество может преодолеть этот разрыв и заручиться поддержкой стран, не участвующих в совместных усилиях? Путь к обеспечению безопасности ИИ, несомненно, уже начался, но на следующем этапе необходимо преодолеть сложности и сформировать единую приверженность защите этой преобразующей технологии.