- Google сообщает, что поддерживаемые правительством группы продвинутых постоянных угроз (APT) пытались взломать систему.
- Хакеры пытались манипулировать Gemini с помощью простых тактик, таких как перефразирование запросов или отправка повторяющихся запросов.
- Google продолжает совершенствовать меры безопасности Gemini для предотвращения злоупотребления ИИ со стороны злоумышленников.
Google выпустила предупреждение о потенциальных рисках безопасности, связанных с искусственным интеллектом (ИИ), после того как хакеры, спонсируемые государством, попытались эксплуатировать модель ИИ Gemini.
Однако их попытки взломать систему в конечном итоге оказались неудачными.
Группа разведки угроз Google (GTIG) опубликовала статью «Антагонистическое злоупотребление генеративным ИИ», в которой объясняется, как злоумышленники общались с чатботом ИИ Gemini.
Хакеры пытаются взломать ИИ Google Gemini, но терпят неудачу с помощью простых трюков
Google сообщает, что злоумышленники пытались взломать ИИ Gemini с помощью промптов, включая усилия групп продвинутых постоянных угроз (APT), поддерживаемых правительствами, которые пытались использовать ИИ в злонамеренных целях.
Однако американская многонациональная корпорация не нашла доказательств попыток сложного взлома.
Вместо этого хакеры использовали простые подходы, такие как ввод различных фраз или многократное повторение одного и того же запроса. Google прокомментировала, что эти попытки были неудачными.
Взломы с помощью ИИ — это атаки внедрения промптов, которые пытаются обойти ограничения и заставить модель ИИ выполнять запрещенные действия, такие как раскрытие конфиденциальной информации или создание вредоносного контента.
По данным Google, один из акторов APT попытался эксплуатировать Gemini, используя общедоступные промпты для взлома, с целью генерации вредоносного кода. Однако попытка провалилась, так как Gemini ответила выводом, отфильтрованным системой безопасности.
Google упомянула, что злоумышленники стремились достичь различных злонамеренных целей с помощью Gemini, таких как сбор информации о целях, выявление уязвимостей из открытых источников и написание кода и скриптов. Кроме того, некоторые попытки были направлены на поддержку действий после компрометации, например, для избежания обнаружения.
Иран, Китай и Северная Корея используют ИИ Google Gemini для киберопераций
По данным Google, иранские группы APT в основном использовали ИИ для создания фишинговых кампаний. Они также использовали Gemini для разведки в отношении экспертов по обороне и организаций, а также для генерации контента, связанного с кибербезопасностью.
Тем временем китайские акторы APT использовали Gemini для отладки кода, скриптов и задач разработки. Они также использовали ИИ для изучения методов получения более глубокого доступа к целевым сетям.
Группа разведки угроз Google и северокорейские группы APT использовали Gemini на разных этапах жизненного цикла атаки, таких как предварительные исследования и разработка. В отчете сказано:
Они также использовали Gemini для исследований, представляющих стратегический интерес для правительства Северной Кореи, таких как южнокорейская военная промышленность и криптовалюта.
– GTIG
В прошлом году северокорейские хакеры украли $1,3 млрд цифровых активов, согласно данным Chainalysis.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Неллиус Ирэн
Неллиус — выпускница программ по управлению бизнесом и информационным технологиям с пятилетним опытом работы в индустрии криптовалют. Она также окончила Bitcoin Dada. Неллиус внесла вклад в ведущие медиа-издания, включая BanklessTimes, Cryptobasic и Riseup Media.
