Почему CISA призывает к безопасному проектированию ИИ, связанному с базовой безопасностью?

Агентство по кибербезопасности и инфраструктурной безопасности США (CISA) подчеркнуло необходимость внедрения принципов безопасности в саму основу систем искусственного интеллекта (ИИ) на этапах их разработки. Такой проактивный подход, рекомендуемый CISA, направлен на предотвращение возникновения уязвимостей после развертывания — сценарий, который может быть не только сложным, но и крайне дорогостоящим для устранения. Призыв агентства к безопасному проектированию ИИ согласуется с его более широкой кампанией по бесшовной интеграции безопасности в фазы проектирования и разработки, а не в качестве второстепенной меры.

Безопасность в основе: постоянная миссия CISA

В своем недавнем публикации CISA настоятельно призвала разработчиков ИИ принять парадигму «безопасность по умолчанию», подтверждая принцип того, что ИИ по своей сути является формой программного обеспечения. Агентство стремилось развеять мифы об ИИ, акцентируя внимание на его фундаментальной программной природе, что делает его подотчетным тем же требованиям безопасности, что и любое другое ПО. Это перекликается с многолетней глобальной инициативой экспертов по кибербезопасности рассматривать безопасность как неотъемлемый компонент, а не как периферийное дополнение.

Смена парадигмы: от внешнего фактора к обязательству

Директор CISA Джен Истерли в своей речи в начале этого года подчеркнула необходимость трансформационного сдвига в восприятии безопасности в технологической отрасли. Исторически безопасность часто отодвигалась на второй план, а её издержки перекладывались на конечных пользователей. Истерли призвала к полному пересмотру этого подхода, выступая за возобновление обязательств по обеспечению безопасности путём интеграции её в жизненный цикл разработки программного обеспечения. Кроме того, она предложила изменить распределение ответственности, предложив разработчикам программного обеспечения взять на себя большую долю ответственности.

Взаимосвязанные проблемы машинного обучения

В блоге CISA обращается внимание на сложность машинного обучения, подчёркивая тесную взаимосвязь его кода. Примечательно, что любое изменение одного входного параметра в системе ИИ может иметь далеко идущие последствия. Эта сложная взаимозависимость была подчеркнута в фундаментальной статье 2014 года исследователей Google, которые метко сравнили нерешённые технические проблемы в разработке ИИ с «кредитной картой с высокими процентами» технического долга.

Адаптированные практики безопасности для ИИ

Хотя в блоге признается необходимость принципа «безопасность по дизайну» для систем ИИ, также отмечаются уникальные вызовы, которые представляет ИИ. CISA составила перечень основных практик безопасности, не зависящих от отрасли и применимых к программному обеспечению ИИ. Агентство подчеркивает важность соблюдения этих рекомендаций, особенно с учетом случаев, когда злоумышленники эксплуатируют известные уязвимости в компонентах программного обеспечения, не связанных с ИИ.

Комплексный подход к безопасности ИИ

CISA подчеркивает, что различные аспекты разработки ИИ, включая проектирование, разработку, развертывание, тестирование, управление данными, интеграцию систем, а также управление уязвимостями и инцидентами, должны регулироваться общепринятыми практиками и политиками в области безопасности. В случаях обработки форматов файлов моделей ИИ необходимо обеспечить надежные меры для предотвращения попыток выполнения кода из ненадежных источников. Кроме того, рекомендуется использование языков программирования с безопасным управлением памятью в качестве дополнительной защиты от потенциальных угроз.

Подотчетность и прозрачность в инженерии ИИ

В дополнение к техническим мерам защиты CISA призывает сообщество инженеров ИИ внедрять практики, повышающие подотчётность и прозрачность. Это включает в себя использование идентификаторов уязвимостей, таких как CVE (Common Vulnerabilities and Exposures), а также ведение полного списка программного обеспечения как для моделей ИИ, так и для их зависимостей. Вопросы конфиденциальности также не остаются без внимания: агентство призывает по умолчанию соблюдать фундаментальные принципы защиты данных.

Переломный момент в области безопасности ИИ

Эмоциональный призыв CISA к обеспечению безопасности ИИ на этапе проектирования знаменует собой переломный момент в сфере разработки искусственного интеллекта. Ставя безопасность во главу угла процесса проектирования и разработки, агентство выступает за смену парадигмы, которая может предотвратить серьёзные нарушения безопасности в будущем. В мире, где системы ИИ становятся всё более повсеместными, такой проактивный подход может заложить основу для более безопасной и устойчивой цифровой среды.