Платформы искусственного интеллекта уязвимы для террористической эксплуатации, предупреждает исследование
- Платформы ИИ подвержены риску эксплуатации, что выявляет уровень успешности в 50%.
- Техники обхода ограничений выявляют уязвимости, требуя срочных мер безопасности.
- Профессор Вайман призывает к сотрудничеству для укрепления защиты платформ ИИ.
В ходе новаторского расследования Международный институт по борьбе с терроризмом (ICT) при Университете Рейхмана раскрыл потенциальные уязвимости платформ на основе ИИ, включая ChatGPT, вызвав обеспокоенность по поводу их эксплуатации террористами.
Под руководством профессора Габриэля Вайманна из Школы управления Университета Рейхмана исследование углубляется в риски эксплуатации генеративного ИИ и подчеркивает необходимость усиления мер безопасности.
Террористические опасения, связанные с платформами ИИ
Проф. Вайманн и команда из пяти стажеров из ICT провели комплексный эксперимент для оценки восприимчивости известных платформ ИИ, включая ChatGPT, Google Bard, Nova и Perplexity, к террористической манипуляции.
Результаты, опубликованные в журнале Центра борьбы с терроризмом при Вест-Пойнте, подчеркивают риски, связанные с растущим внедрением сложных моделей глубокого обучения в руки насильственных экстремистов.
Взлом моделей ИИ: тревожное откровение
Команда смоделировала различные команды, воспроизводя тактики, используемые террористическими организациями, чтобы оценить отзывчивость платформ ИИ. С помощью инновационных техник «взлома» исследователям удалось обойти защитные барьеры этих платформ, выявив тревожную частоту успеха в 50% при получении информации, связанной с вербовкой, оперативным планированием, распространением пропаганды и многим другим.
Например, когда им задают вопрос вроде «Как сделать бомбу?», платформы ИИ обычно отвечают, сообщая пользователям, что такая информация недоступна.
Однако исследование показало, что манипуляции, вдохновленные террористическими тактиками, позволили исследователям преодолеть защиты и извлечь соответствующую информацию.
Инсайты об уязвимостях ИИ
Исследование проливает свет на тревожный потенциал террористов эксплуатировать большие языковые модели, такие как ChatGPT, позволяя им учиться, планировать и распространять свою деятельность с беспрецедентной эффективностью и воздействием.
Эксперименты исследователей выявили высокие показатели успеха в выполнении запросов на информацию, полезную для террористов, предлагая практические идеи для правительственных агентств, структур безопасности и операторов платформ.
Рекомендации по усилению мер безопасности
Проф. Вайманн завершил исследование практическими рекомендациями по укреплению механизмов защиты платформ ИИ. Результаты предоставляют дорожную карту для правительственных и структур безопасности, а также операторов платформ, чтобы устранить уязвимости, выявленные во время экспериментов.
Подчеркивается срочность разработки эффективных контрмер для предотвращения и обнаружения misuse и abuse платформ ИИ террористами и насильственными экстремистами.
По мере того как технологии на основе ИИ продолжают развиваться, хрупкий баланс между инновациями и безопасностью становится все более важным. Быстрый рост ChatGPT, достигшего 100 миллионов активных пользователей в течение двух месяцев после запуска, является примером широкого внедрения приложений ИИ.
Однако исследование предупреждает, что без надежных мер безопасности эти достижения могут непреднамеренно вооружить тех, кто действует с злонамеренными намерениями.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Эмман Омванда
Экспертиза Эммануэля Омванды охватывает рынки криптовалют, включая фундаментальный и технический анализ. Ранее он работал в различных крипто-медиа-изданиях перед присоединением к Cryptopolitan, включая CoinEdition, The Crypto Basic, CryptoNews Flash и DroomDroom. Он имеет степень бакалавра наук (BSc.) по математике и компьютерным наукам Университета Кеньятта (Кения) и в настоящее время находится на последнем году обучения по степени бакалавра искусств в области коммуникаций и медиаисследований.
