Искусственный интеллект против искусственного интеллекта: цифровая гонка вооружений, о которой вы не знали

Стремительный рост генеративного искусственного интеллекта породил конкуренцию между заинтересованными сторонами в сфере кибербезопасности и хакерами. В результате этого динамизмаdent США Джо Байден в октябре издал указ, направленный на безопасное, надежное и заслуживающее доверия развитие и использование искусственного интеллекта. 

Кто одержит верх – защитники или нападающие – в течение следующих пяти лет? На данный момент однозначного ответа нет.

Кибергонка вооружений 

Генеративный ИИ расширяет возможности как защитников, так и злоумышленников, обеспечиваяdentскорость и эффективность в борьбе с методами социальной инженерии и выдачи себя за другое лицо. 

Для злоумышленников фишинговые кампании, нацеленные на известных личностей, становятся чрезвычайно масштабируемыми, поскольку искусственный интеллект быстро имитирует стили общения, позволяя одновременно проводить множество угроз. Это представляет собой серьезную проблему для защитников из-за возросшей интенсивности и серьезности атак.

В ответ на эти атаки индустрия кибербезопасности использует искусственный интеллект для их обнаружения и противодействия. Однако разработка эффективных контрмер требует времени, оставляя компании уязвимыми в промежуточный период.

Это динамика гонки вооружений, которая очень напоминает непрерывный цикл инноваций, в котором нападающие и защитники стремятся превзойти друг друга.

Роль законодательства в адаптации к эволюции ИИ

В этой ситуации крайне важно сотрудничество государственного и частного секторов. Указ президента предлагает отправную точку для регулирования, в то время как дальнейшее сотрудничество между технологической отраслью и правительством остается необходимым. 

Когда технологические компании начинают выпускать продукты на основе искусственного интеллекта, отзывы клиентов становятся бесценными при формировании нормативных актов, которые обеспечивают баланс между инновациями, защитой данных и социальными проблемами. 

Государственно-частное партнерство играет огромную роль в создании безопасной среды, способствующей развитию инноваций в области искусственного интеллекта и решению вопросов безопасности.

Однако следует отметить, что законодательная база должна идти в ногу с меняющимся характером технологий искусственного интеллекта, как указано в указе президента. 

Например, в сфере маркировки контента Министерство торговли США разрабатывает рекомендации по нанесению водяных знаков и аутентификации для контента, созданного с помощью ИИ. Alphabet, Meta и OpenAI — отличные примеры крупных технологических компаний, которые обязуются предпринимать подобные действия, аналогичные тем, что сделала Секретная служба США, внедрив цифровые водяные знаки в цветные копировальные аппараты и принтеры для борьбы с контрафактной продукцией.

Для активного подхода к разработке и внедрению ИИ необходимы долгосрочные обязательства по обеспечению прозрачности, открытости и понимания. С появлением кибервойны, основанной на ИИ, началась новая гонка вооружений.

Поскольку представители промышленности и правительства вступают на неизведанную территорию, совместные усилия по совершенствованию стратегий защиты от ИИ приобретают важное значение.

Состояние кибербезопасности находится на критическом этапе, поскольку возможности и потенциал генеративного ИИ меняют ход развития этой дисциплины. Гонка продолжается, что подчеркивает важность комплексных и согласованных мер для обеспечения ответственного проектирования и использования технологий на основе ИИ.