- Национальный институт стандартов и технологий (NIST) Министерства торговли США опубликовал отчёт, в котором описаны четыре типа кибератак, угрожающих системам искусственного интеллекта, при этом надёжных средств защиты пока не существует.
- Атаки с использованием adversarial machine learning включают белые ящики, песочницы и серые ящики, эксплуатирующие уязвимости в системах ИИ и создающие риски серьёзных последствий.
- В отчёте подчёркиваются сложности защиты ИИ: трудности с «забыванием» вредоносного поведения и растущие риски по мере интеграции ИИ во все сферы нашей связанной экономики.
В постоянно меняющемся технологическом ландшафте обещания искусственного интеллекта (ИИ) сопровождаются растущей обеспокоенностью: уязвимостью систем ИИ перед кибератаками. Недавно Национальный институт стандартов и технологий (NIST) Министерства торговли США опубликовал отчет о «Достоверном и ответственном ИИ», в котором освещаются постоянные проблемы защиты систем ИИ от злоумышленников. В отчете выделяются четыре типа кибератак, способных манипулировать поведением систем ИИ, призывая сообщество разработать более надежные средства защиты.
Угрозы состязательного машинного обучения
Отчет NIST подробно рассматривает тонкости состязательного машинного обучения, классифицируя потенциальных злоумышленников на три типа: хакеры с полным доступом (white-box), хакеры с ограниченным доступом (sandbox) и хакеры с частичным доступом (gray-box). Хакеры с полным доступом обладают полными знаниями о системах ИИ, хакеры с ограниченным доступом имеют минимальный доступ, а хакеры с частичным доступом владеют частичной информацией о системе ИИ, но не имеют доступа к ее обучающим данным. Несмотря на различия в уровне осведомленности, все три типа представляют серьезную угрозу целостности систем ИИ.
Мошенничество в цифровом пространстве растет, о чем отметил Герхард Оостхойзен, технический директор Entersekt. Технология, которая изначально обещала успех, теперь создает больше проблем на фоне растущего совершенствования мошеннических схем. Отчет NIST подчеркивает возрастающие риски по мере того, как ИИ все глубже интегрируется в нашу связанную экономику.
В отчете выделяются два основных вида атак состязательного машинного обучения: отравление данных и злоупотребление. Отравление данных ИИ-системы заключается во внедрении поврежденных данных на этапе обучения, что приводит к сбоям в работе систем. NIST приводит пример, когда злоумышленник вносит неуместную лексику в записи разговоров, в результате чего чат-бот начинает использовать эти выражения как норму в общении с клиентами.
С другой стороны, атаки типа «злоупотребление» заключаются во внедрении неверной информации в легитимные источники, которые поглощает система ИИ. Эти атаки направлены на то, чтобы изменить предполагаемое использование системы ИИ, предоставляя ей неверные данные. Алина Опрэ, соавтор отчета NIST и профессор Северо-Восточного университета, отмечает простоту таких атак, не требующих глубоких знаний или сложных состязательных навыков.
Раскрыты кибератаки – навигация в сложностях защиты ИИ
Атаки на конфиденциальность и атаки уклонения добавляют дополнительные слои сложности в защиту ИИ. Атаки на конфиденциальность пытаются извлечь конфиденциальную информацию об ИИ или его обучающих данных, используя легитимные вопросы для обратного инжиниринга модели. Атаки уклонения, происходящие после развертывания, стремятся изменить ответы системы ИИ на традиционные входные данные. Сюда входят обманные модификации дорожных знаков, представляющие угрозу для автономных транспортных средств.
Главная проблема заключается в сложности заставить модели ИИ «забыть» изученное поведение, даже если оно оказывается вредоносным или разрушительным. По мере того как ИИ все глубже проникает в нашу повседневную жизнь, в отчете предупреждается о растущей необходимости решать эти уязвимости, чтобы предотвратить катастрофические сбои.
По мере того как тень кибератак нависает над развитием ИИ, отчет NIST привлекает внимание к неразрешенным проблемам обеспечения безопасности систем ИИ. Призыв к сообществу разработать лучшую защиту подчеркивает срочность решения этих уязвимостей. Сможет ли сообщество ИИ коллективно разработать надежные меры для защиты от развивающихся киберугроз, или нам суждено блуждать по все расширяющемуся лабиринту атак состязательного машинного обучения? Будущее защиты ИИ зависит от нашей способности к инновациям и тому, чтобы оставаться на шаг впереди тех, кто стремится эксплуатировать его уязвимости.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
