CISA представила новые меры безопасности для ИИ

Агентство по кибербезопасности и защите инфраструктуры (CISA) представило новые рекомендации в соответствии с акцентом Министерства внутренней безопасности США (DHS) на безопасности ИИ, который был подчеркнут созданием не так давно специального совета по безопасности.

Рекомендации CISA по обеспечению безопасности ИИ в критически важных секторах

Опубликованные рекомендации предназначены для владельцев и операторов шести секторов, отнесенных к критической инфраструктуре, обслуживаемых такими областями, как сельское хозяйство, здравоохранение и информационные технологии. Эти рекомендации представляют собой минимально необходимый набор требований, обеспечивающий безопасность и устойчивость системы ИИ за счет использования ответственных технологий искусственного интеллекта. Данные рекомендации содержат указания по управлению, оценке рисков и текущему контролю процессов, связанных с ИИ.

Операторы могут использовать разработанную NIST систему управления рисками в области ИИ для непрерывной оценки воздействия и рисков, связанных с внедрением ИИ. Это включает в себяdentзависимостей ИИ и влияния технологий на окружающую среду, а также попытки устранения выявленных уязвимостей. В рекомендациях содержатся правила, напоминающие о необходимости проведения инвентаризации использования ИИ и создания специальных процедур для сообщения о рисках безопасности, связанных с ИИ.

CISA признает, что руководителям служб информационной безопасности необходимо знать критически важный путь цепочки поставок ИИ и тестировать системы ИИ дляdentпробелов в безопасности. Уделяя особое внимание конкретным областям, владельцы инфраструктуры сталкиваются с широким спектром рисков, связанных с ИИ, включая недостатки проектирования, кибератаки и нарушения физической безопасности.

Двойная роль ИИ в критически важной инфраструктуре

В документе показано, что ИИ имеет возможность трансформировать управление критической инфраструктурой за счет внедрения широкомасштабного мониторинга внешней среды, автоматизации обслуживания клиентов, повышения физической безопасности и улучшения точности прогнозирования. 

Хотя это нововведение поможет повысить надежность инфраструктурных систем в целом, оно также может сделать их более уязвимыми для новых видов атак и сбоев.

Эти рекомендации — лишь один из элементов более широких инициатив Министерства внутренней безопасности, направленных на преодоление сложностей включения технологий искусственного интеллекта в рамки национальной безопасности. Распространение ИИ имеет двоякий характер: внедрение этой революционной технологии и угроза, которую она представляет для чувствительной инфраструктуры критически важных систем, напоминает министр внутренней безопасности Алехандро Майоркас. Группа по оценке рисков оперативно реагирует на ситуацию и предпринимает стратегические инициативы дляdentи смягчения скрытых опасностей посредством сотрудничества экспертов.

Инициативы Министерства внутренней безопасности США в области искусственного интеллекта

В начале года Министерство внутренней безопасности США представило свою стратегию в области искусственного интеллекта, изложив дорожную карту DBDS и объявив о создании Корпуса ИИ. К 2024 году эта команда должна состоять из 50 специалистов, которые будут признаны квалифицированными, и будет стремиться повысить возможности агентства в области ИИ. В состав нового совета войдут такие авторитетные деятели в технологической сфере, как Сэм Альтман из OpenAI и Сундар Пичаи, представляющий компанию Alphabet.

В новых рекомендациях по ИИ мандат CISA состоит не только в выполнении своих обязанностей в соответствии с недавним указом администрации Байдена, касающимся ИИ, но и в том, чтобы подать первый пример аналогичного анализа рисков, который может проводиться в различных секторах общества. Таким образом, правительство США подчеркивает свое лидерство в «матрице безопасности критической инфраструктуры», которая сегодня тесно связана с искусственным интеллектом.