Что такое BadGPT? Вы когда-нибудь о нём слышали?

Если намерения недобрые, то искусственный интеллект может стать смертоносным инструментом в руках злоумышленника. Представьте, что вы дежурите ночью, и вам звонят из дома, сообщая, что у вашей двери стоит мужчина с пистолетом в руках. И вся ваша семья находится внутри дома. Какие чувства вы испытаете, и кого бы вы предпочли видеть рядом с собой? Преступника или полицейского? 

То же самое происходит и с искусственным интеллектом, который уже стучится в наши двери, вернее, проник в наши дома. Все мы знаем, что такое ChatGPT, верно? Но у того самого ИИ, используемого для ChatGPT, есть темная сторона, которая гораздо более зловеща, чем мы думаем. Добро пожаловать в темную сеть. Существует множество инструментов искусственного интеллекта, похожих на ChatGPT, но созданных для грязной стороны рынка. Такие инструменты, как BadGPT и FraudGPT, — лишь некоторые из них. По мнению экспертов, киберпреступность, особенно фишинг по электронной почте, будет продолжать расти в ближайшие годы.

Что же на самом деле представляют собой BadGPT и подобные им файлы?

По сути, это чат-боты на базе искусственного интеллекта, но не те, которые вы используете ежедневно для выполнения повседневных задач. Это нецензурированные режимы без каких-либо средств защиты, доступные клиентам, которые хотят использовать их в соответствии со своими потребностями. Обычно их используют для фишинговых писем или разработки вредоносного ПО для кибератак, чтобы помочь хакерам и облегчить их преступную деятельность. С появлением этих сервисов предприятия находятся в состоянии повышенной готовности и подвергаются большему риску, чем когда-либо прежде.

Недавно исследователи из Университета Индианы обнаружили более 200 хакерских сервисов, использующих большие языковые модели, или, другими словами, искусственный интеллект, и все они уже доступны на рынке. Первые из этих сервисов появились примерно в начале 2023 года, и с тех пор их популярность неуклонно росла.

Большинство инструментов, предназначенных для теневого рынка, используют модели ИИ с открытым исходным кодом или взломанные версии таких программ, как Anthropic. Для взлома этих моделей и обхода их фильтров безопасности используется метод, называемый внедрением подсказки, позволяющий хакерам использовать их без каких-либо проверок безопасности.

Представитель OpenAI заявил, что их компания прилагает все усилия для защиты своей продукции от использования в любых злонамеренных целях, и что это, 

«Мы постоянно работаем над тем, как сделать наши системы более устойчивыми к подобным злоупотреблениям»

Источник: WSJ

Негативное влияние BadGPT и способы предотвращения его использования

Возможно, вы задаетесь вопросом, действительно ли эти тактики эффективны и могут ли они убедить кого-либо. Реальность такова, что мошеннические электронные письма, написанные с помощью этих инструментов, трудно распознать, а хакеры обучают свои модели методам обнаружения, заимствованным из программного обеспечения для кибербезопасности. 

Недавно в интервью изданию govttech Джефф Браун, главный специалист по информационной безопасности (CISO) штата Коннектикут, выразил обеспокоенность по поводу использования BadGPT и FraudGpt в киберпреступлениях и заявил о значительном росте мошенничества с использованием электронной почты. 

Люди могут предотвратить подобные атаки, проявляя особую осторожность при обмене личной информацией с кем бы то ни было. Не делитесь своей информацией открыто, ни с кем лично, ни на каком-либо веб-сайте, за исключением случаев крайней необходимости, и делайте это с осторожностью. Всегда сначала проверяйте веб-сайт, прежде чем раскрывать свою информацию, поскольку вредоносные сайты сейчас выглядят гораздо профессиональнее, чем можно было бы предположить, что они на самом деле вредоносны.