Что такое BadGPT? Вы когда-нибудь слышали об этом?

Если намерение неверно, то искусственный интеллект может стать смертельным оружием в руках неправильного человека. Представьте, что вы на ночной дежурстве и получаете звонок из дома, сообщая, что у вашей двери стоит мужчина с пистолетом в руках. И вся ваша семья находится внутри вашего дома. Каковы будут ваши чувства, и кого вы предпочли бы? Преступника или полицейского? 

То же самое происходит с ИИ, который уже стучится в наши двери, а точнее, уже вошел в наши дома. Мы все знаем, что такое ChatGPT, верно? Но есть темная сторона того же самого ИИ, используемого для ChatGPT, которая более зловеща, чем мы думаем. Добро пожаловать в темную сеть. Существует множество инструментов искусственного интеллекта, похожих на ChatGPT, но созданных для обслуживания мрачной стороны рынка. Инструменты вроде BadGPT и FraudGPT, чтобы назвать лишь некоторые из них. По словам экспертов, киберпреступность, в частности фишинг по электронной почте, будет продолжать расти в ближайшие годы.

Что на самом деле представляют собой BadGPT и подобные им?

Это в основном чат-боты, работающие на базе ИИ, но не те, которые вы используете ежедневно для рутинных задач. Это нецензурируемые режимы без каких-либо мер безопасности для их контроля, доступные клиентам, которые хотят использовать их по своему усмотрению. Они обычно используются для фишинговых писем или создания вредоносного ПО для кибератак, чтобы помочь хакерам и облегчить их преступную деятельность. Бизнес находится в состоянии высокой тревоги и подвергается большему риску, чем когда-либо прежде, с появлением этих услуг.

Недавно исследователи из Индианского университета обнаружили более 200 хакерских сервисов, использующих большие языковые модели, также известные как ИИ, и уже доступных на рынке для каждого. Первый из этих сервисов появился около первых месяцев 2023 года, и после этого не было пути назад, так как эти сервисы продолжали прорастать, как дикая трава.

Большинство этих инструментов, обслуживающих темный рынок, используют открытые модели ИИ или взломанные версии таких компаний, как Anthropic. Используется техника, называемая инъекцией промптов, для захвата этих моделей и обхода их фильтров безопасности, чтобы хакеры могли использовать их без каких-либо проверок безопасности.

Представитель OpenAI заявил, что их компания делает все возможное, чтобы защитить свои продукты от использования в любых злонамеренных целях, и что это, 

«всегда работает над тем, как сделать наши системы более устойчивыми к этому типу злоупотреблений».

Источник: WSJ

Негативное влияние BadGPT и как защитить себя

Вы можете думать, действительно ли эти тактики эффективны и могут ли они действительно убедить кого-то. Реальность такова, что мошеннические письма, написанные с помощью этих инструментов, трудно обнаружить, и хакеры тренируют свои модели на техниках обнаружения, полученных из программного обеспечения для кибербезопасности. 

Недавно в интервью с govttech Джефф Браун, CISO (главный специалист по информационной безопасности) штата Коннектикут, выразил свои опасения по поводу использования BadGPT и FraudGpt в киберпреступлениях и сказал, что наблюдается значительный рост мошенничества на основе электронной почты. 

Люди могут отразить эти атаки, проявляя особую осторожность при передаче своей личной информации кому-либо. Не раскрывайте свою информацию открыто, ни человеку, ни на любом веб-сайте, если это не абсолютно необходимо, и то с осторожностью. Всегда сначала исследуйте веб-сайт перед раскрытием вашей информации, так как злонамеренные сайты теперь выглядят гораздо профессиональнее, без намека на злонамеренность.