Внедрение ИИ выявляет новые угрозы кибербезопасности

Эксперт по кибербезопасности заявил, что ИИ представляет собой опасную угрозу кибербезопасности для корпораций, которые используют его в качестве своей услуги, не только посредством осуществления атак преступниками, но и в законных целях.

Киберуязвимости ИИ

Хотя угроза, исходящая от злоумышленников, использующих ИИ для осуществления атак, широко обсуждается, Питер Гарраган, генеральный директор и технический директор компании Midgard, которая обеспечивает кибербезопасность конкретно для ИИ, говорит: «Проблема, которую я имею в виду, — это угроза кибербезопасности ИИ, которая как раз и обсуждается».

Как и ожидалось, наиболее распространённое и, следовательно, подверженное риску использование ИИ компаниями связано с чат-ботами, которые обслуживают клиентов и чьи тональность и данные, как правило, адаптированы под нужды организаций, которые они представляют. Именно поэтому доктор Гарраган, профессор компьютерных наук Ланкастерского университета, специализирующийся на безопасности и системах ИИ, решил обратиться к Mindgard в 2022 году. «ИИ — это не магия», — говорит он. Это всего лишь сочетание дополнительного кода, данных и оборудования. Учитывая современные киберугрозы, все эти угрозы могут проявиться и в ИИ.

Давайте представим это следующим образом: предположим, что злоумышленник использует процесс, известный как SQL-инъекция. Злоумышленник может использовать этот процесс для эксплуатации уязвимостей в полях веб-форм, таких как форма входа на сайт или форма обратной связи. Другой способ использования телесуфлёра — это инъекция подсказок, которая используется в общедоступных приложениях. Во-первых, если безопасность не обеспечена должным образом, инструменты ИИ практически могут быть вынуждены раскрыть свой исходный код и инструкции, IP-адрес компании или данные клиентов. Во-вторых, инструменты ИИ можно подвергнуть реверс-инжинирингу, как и любое другое программное обеспечение, дляdentуязвимостей.

Обеспечение безопасности систем искусственного интеллекта

Гарраган говорит о серьёзности проблемы: «В обозримом будущем, через несколько лет, может возникнуть фактор национальной безопасности, или же обездоленные люди могут оказаться под угрозой». Новая информация звучит как предупреждение: компаниям следует остерегаться опубликованных данных.

Гарраган говорит: «Более того, ИИ может служить инструментом кибератаки, позволяя получать утечки данных; модель же сможет предоставить запрошенные вами данные». В качестве примера в январе правая социальная сеть Gab искала обучающие материалы, в которых случайноdentработающей на основе GPT OpenAI, Ранее модели

Гарраган утверждает, что информация может быть получена в результате несанкционированных атак на VoIP. Кроме того, ИИ можно подвергнуть реверс-инжинирингу, обойти систему или обманным путём открыть доступ к другим системам. Таким образом, утечка информации может быть одной из основных проблем, затрагивающих все отрасли, включая те, которые могут подвергаться внешним или внутренним атакам. Он также перечисляет другие риски, такие как уклонение от модели, когда модель вводится в заблуждение или намеренно обходит модель путём фальсификации ложных данных.

Гарраган отметил, что ещё одной угрозой является внедрение вредоносных команд или искажение данных с помощью ошибочных решений в trac. Кроме того, он отмечает, что общее воздействие кибератак — это репутационный ущерб, который обычно возникает после кибератак. Аналогичным образом, области, подверженные наибольшему риску негативных последствий такого рода кибератак, находятся там, где ставки наиболее высоки. Например, для многих отраслей и учреждений, работающих в режиме онлайн, общественная безопасность и отсутствие утечкиdentинформации являются важными ценностями, которые финансовые услуги и здравоохранение должны уделять первоочередное внимание.

Гарраган говорит: «Связь здесь в том, что чем более структурирована и контролируется ваша отрасль, и чем больше рисков вы сталкиваетесь с ИИ (и, как показывает опыт, чем меньше вы используете ИИ, тем меньше внедряете), тем хуже ваш ИИ. Возможно, они не самые ленивые. Например, они просто переживают самые трудные периоды в своей жизни».

Проактивные меры безопасности ИИ

Искусственный интеллект возьмет на себя эти риски в любой конкретной компании, хотя, по его словам, для защиты пользователей потребуется многоуровневая система безопасности (поскольку ИИ в бизнесе уже нуждается в ней). «У вас уже есть инструменты кибербезопасности, специализирующиеся на разных секторах», — говорит Гаррахан. «Это могут быть инструменты управления состоянием безопасности, инструменты обнаружения и реагирования, межсетевые экраны и поддержка подхода «сдвига влево», например, сканирование кода. Вскоре вам потребуется ИИ в соответствии с цифровой трансформацией». Этот жанр специализируется исключительно на ИИ и машинном обучении, в то время как такие системы, как нейронные сети, упоминаются лишь изредка.

Вам потребуется сканер приложений на основе нейронных сетей, система реагирования для всех типов нейронных сетей, тестирование безопасности и Red Teaming для лучшего контроля между приложениями. Кроме того, вам понадобится система реагирования для всех типов нейронных сетей. Проще исправить и устранить проблемы на ранних этапах, чем проблемы во время выполнения. Однако организациям, использующим модели ИИ или приобретённые приложения и сервисы ИИ, мы рекомендуем перед запуском в эксплуатацию устранить все проблемы в моделях. В этом случае, после запуска в эксплуатацию, можно будетdentтолько те проблемы, которые требуют исправления.