CISA и британский NCSC объединяют усилия для раскрытия руководящих принципов по безопасной разработке систем ИИ
- Агентство США по кибербезопасности и инфраструктурной безопасности (CISA) и Национальный центр кибербезопасности Великобритании (NCSC) совместно с 23 организациями в области кибербезопасности выпустили «Рекомендации по безопасной разработке ИИ-систем».
- Данные рекомендации дополняют Добровольные обязательства США в сфере ИИ, делая акцент на принципах «Безопасность при проектировании», а также способствуя прозрачности и подотчетности.
- Обращенные к поставщикам ИИ-систем и заинтересованным сторонам, рекомендации содержат предложения по безопасному проектированию, разработке моделей, развёртыванию и эксплуатации, приглашая к общественному обсуждению через дорожную карту CISA по ИИ.
В рамках сотрудничества Агентство США по кибербезопасности и инфраструктурной безопасности (CISA) и Национальный центр кибербезопасности Великобритании (NCSC) совместно представили Руководящие принципы по безопасной разработке систем ИИ. Подписанные 23 организациями в области кибербезопасности, эти публикации означают ключевые усилия по решению пересечения искусственного интеллекта (ИИ), кибербезопасности и критической инфраструктуры.
Руководящие принципы, в гармонии с Добровольными обязательствами США по обеспечению безопасного, защищенного и надежного ИИ, представляют важные рекомендации по разработке систем ИИ, подчеркивая важность соблюдения принципов «Безопасность при проектировании» (Secure by Design). Этот подход приоритизирует результаты безопасности для клиентов, выступает за радикальную прозрачность и подотчетность и создает организационные структуры, где безопасное проектирование имеет приоритет.
Суть руководящих принципов по безопасной разработке систем ИИ
Руководящие принципы охватывают широкий спектр, применяясь не только к передовым моделям ИИ, но и к различным системам ИИ. Рекомендации и меры по смягчению рисков направлены на помощь специалистам по данным, разработчикам, менеджерам, лицам, принимающим решения, и владельцам рисков в принятии обоснованных решений относительно безопасного проектирования, разработки моделей, развертывания систем и эксплуатации. Документ нацелен на поставщиков систем ИИ, независимо от того, размещены ли их модели внутренне или они полагаются на внешние программные интерфейсы (API).
Кроме того, Руководящие принципы подчеркивают целостный подход к безопасности ИИ, пропагандируя чувство коллективной ответственности среди заинтересованных сторон. Фокус на результатах безопасности для клиентов сигнализирует о смене парадигмы, поощряя организации внедрять соображения безопасности на протяжении всего жизненного цикла разработки ИИ. Радикальная прозрачность и подотчетность emerge как руководящие принципы, побуждая организации открыто общаться о функциональности своих систем ИИ и потенциальных рисках. Организационные структуры, advocated Руководящими принципами, позиционируют безопасное проектирование как высший приоритет, способствуя культуре, где заинтересованные стороны активно участвуют в защите систем ИИ от развивающихся киберугроз.
Вовлечение заинтересованных сторон и дорожная карта для ИИ
Хотя в первую очередь они направлены на поставщиков систем ИИ, Руководящие принципы поощряют широкий спектр заинтересованных сторон, включая специалистов по данным, разработчиков, менеджеров, лиц, принимающих решения, и владельцев рисков, углубиться в их содержание. Предоставляемые рекомендации имеют решающее значение для формирования обоснованных решений, связанных с проектированием, развертыванием и эксплуатацией систем машинного обучения ИИ.
За пределами технических аспектов Руководящие принципы расширяют приглашение для заинтересованных сторон, партнеров и общественности активно участвовать в продолжающемся дискурсе о безопасности ИИ. Приверженность CISA прозрачности и сотрудничеству дополнительно проявляется в одновременном выпуске Дорожной карты для ИИ. Эта стратегическая видение очерчивает траекторию CISA в технологии ИИ и кибербезопасности, предоставляя всеобъемлющий обзор их приоритетов и целей. Аспект общественного участия становится критически важным в формировании будущего ландшафта безопасности ИИ, поскольку разнообразные перспективы способствуют более устойчивому и адаптивному подходу.
Совместные усилия между CISA и британским NCSC отмечают значительную веху в решении проблем, posed пересечением ИИ, кибербезопасности и критической инфраструктуры. По мере того как Руководящие принципы по безопасной разработке систем ИИ выходят на первый план, призыв к коллективной ответственности звучит через документ. Как заинтересованные стороны могут активно способствовать продолжающемуся диалогу о безопасной разработке ИИ, и какую роль может сыграть общественное участие в формировании будущего технологии ИИ и кибербезопасности?
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
