Появляется и процветает новая волна чат-ботов, распространяемых на черном рынке

Чат-боты, распространяемые на черном рынке, стали одним из последних трендов в секторе искусственного интеллекта и процветают, поскольку вредоносные большие языковые модели (LLM) приносят деньги своим создателям.

Американское исследование выявило процветающий черный рынок ИИ, где незарегистрированные специалисты с дипломами магистра искусств (LLM) наживаются на продаже своих услуг подпольно. Зарегистрированные и публичные компании, такие как OpenAI, Perplexity и другие крупные корпорации, предлагающие аналогичные услуги, должны соблюдать нормативные требования.

Подпольные LLM-ы могут обходить антивирусы

В исследовании, которое в основном было сосредоточено на Malla, экосистеме, процветающей за счет искажения легальных программ LLM и платформ искусственного интеллекта в целях получения прибыли, были проанализированы 212 программ LLM, размещенных на подпольных торговых площадках в период с апреля по октябрь 2023 года, и оценены их характеристики.

Один из авторов, Цзилун Лин из Университета Индианы, сказал:

«Мы обнаружили, что большинство сервисов по продаже четок на подпольных форумах существуют главным образом для получения прибыли»

Исследование также показало, что некоторые платформы зарабатывают до 28 000 долларов за два месяца на подписках и покупках от людей, которые хотят вырваться из-под рамок регулируемого искусственного интеллекта.

Некоторые из них, такие как DarkGPT и EscapeGPT, являются всего лишь производными от программ LLM, имеющих соответствующую лицензию и используемых на законных основаниях.

Отдельное исследование также показало, что эти незаконные LLM-программы могут использоваться для решения множества задач, например, для создания фишинговых писем. Например, DarkGPT и EscapeGPT могли создавать правильные коды почти в 75% случаев, но антивирусы не могли их обнаружить.

Другая модель, известная как WolfGPT, считалась "мощным инструментом" для создания фишинговых писем и обхода спам-детекторов.

По мнению Эндрю Хундта, эксперта по инновациям в сфере вычислительной техники из Университета Карнеги-Мелло, бурный рост подпольного рынка искусственного интеллекта должен вызывать беспокойство.

Он призвал к принятию законодательного требования, обязывающего компании, разрабатывающие магистерские программы, иметь надежные системы, предотвращающие их копирование лицами со злыми намерениями.

«Нам также необходимы правовые рамки, гарантирующие, что компании, создающие эти модели и предоставляющие услуги, делают это более ответственно и таким образом, чтобы минимизировать риски, создаваемые злоумышленниками», — сказал Хундт.

Понимание принципов работы чат-ботов, торгуемых на чёрном рынке, имеет ключевое значение

Профессор Сяофэн Ван из Университета Индианы, принимавший участие в исследовании, сказал, что важно понимать, как работают эти подпольные программы обучения на уровне магистратуры, чтобы решения были ориентированы на конкретныеdentпроблемы.

Профессор Ван добавил, что манипулирование этими программами магистратуры неизбежно, что создает возможности для отрасли разработатьtronмеры защиты, чтобы минимизировать потенциальный вред, причиняемый кибератаками во всех их формах.

«Мы считаем, что сейчас подходящий момент для начала изучения этих вопросов, поскольку мы не хотим ждать, пока уже будет нанесен серьезный вред»

Профессор Ван.

По словам профессора, у любой технологии, включая магистерские программы, есть две стороны: хорошая и плохая.

Эксперты по кибербезопасности уже призывают индустрию ИИ замедлить темпы своей гонки и задуматься о растущей опасности искажения их технологий анонимными интернет-сообществами.

В статье Forbes, опубликованной в конце прошлого года, говорилось о необходимости ответственного внедрения новых идей, особенно в области магистерских программ. В ней также подчеркивалась роль регулирования в содействии ответственным инновациям в сфере ИИ, в отличие от ошибочного мнения о том, что регулирование подавляет развитие.

«Разработчикам и поставщикам моделей LLM необходимо приостановить безумную гонку вооружений, направленную на создание все более сложных моделей, и вместо этого сотрудничать с регулирующими органами в разработке рамок для этичного проектирования и использования приложений генеративного искусственного интеллекта», — говорится в части отчета.

Согласно Fast Company, из-за лазеек в законодательстве черный рынок ИИ также быстро превращается в многомиллионную индустрию, для сдерживания которой могут потребоваться значительные ресурсы.