Модели ИИ могут быть опасными, если их оставить в руках безответственных элементов

Министерство торговли при администрации Байдена нацелено на новую инициативу по соблюдению требований, чтобы ещё больше ограничить экспорт искусственного интеллекта с открытым или закрытым исходным кодом. Эта инициатива направлена на защиту интересов США и технологий ИИ от России и Китая и дополнит шаги, предпринятые за последние два года для блокировки доступа Китая к новейшим передовым компьютерным чипам.

Усилия США направлены на создание более строгих защитных барьеров вокруг основного программного обеспечения больших языковых моделей, которые питают приложения, такие как ChatGPT, сообщает Reuters со ссылкой на три источника, знакомых с вопросом. Хотя новостное агентство заявило, что исследователи из частного сектора и правительства обеспокоены тем, что противники США могут использовать технологию для агрессивных кибератак и разработки биологического оружия, посольство Китая выступило против этого шага, охарактеризовав его как одностороннее запугивание и экономическое принуждение.

Дипфейки — смероносное оружие дезинформации

Угрозы, которых боится США, многочисленны и могут быть использованы негосударственными акторами, поддерживаемыми государствами. Дипфейки могут использоваться как эффективное оружие пропаганды, так как они включают реалистичные, но поддельные видео, созданные инструментами ИИ. 

Такого рода видео уже появляются в социальных сетях. Хотя такой медиаконтент существует уже несколько лет и создавался с помощью программного обеспечения для анимации и рендеринга, инструменты генеративного ИИ сделали его производство доступным для каждого, и безответственные акторы могут использовать их для манипулирования общественным мнением по чувствительным вопросам, особенно во время избирательных кампаний, легче, чем когда-либо прежде.

Социальные платформы, такие как YouTube, Facebook и Twitter, уже предприняли шаги по ограничению дипфейков, но тактики их создания и публикации также меняются вместе с развитием технологий. В настоящее время инструменты от таких компаний, как Microsoft и OpenAI, могут использоваться для создания контента для распространения дезинформации.

Гораздо большей проблемой является то, что модели ИИ могут утекать информацию для разработки биологического оружия, согласно исследователям из Корпорации Рэнд и Gryphon Scientific, и разведывательные агентства США, академические эксперты и аналитические центры обеспокоены возможностью попадания ИИ в руки безответственных элементов.

Исследование Gryphon выявило, как LLM могут генерировать экспертные знания и знания докторского уровня, которые могут помочь в разработке вирусов с пандемическим потенциалом, и это может быть использовано негосударственными акторами в качестве биологического оружия.

Усиленные кибератаки с моделями ИИ

Министерство внутренней безопасности также выразило обеспокоенность тем, что кибератаки на критическую инфраструктуру, такую как железные дороги и трубопроводы, могут осуществляться с помощью ИИ путём разработки новых инструментов, способных к более масштабным и сложным кибератакам и более быстро.

Агентство также заявило, что Китай разрабатывает программное обеспечение искусственного интеллекта, которое может использоваться для атак вредоносного ПО, и также работает над технологиями ИИ, которые потенциально могут саботировать киберзащиту страны.

Ещё в феврале Microsoft выпустила отчёт, в котором отметила, что выявила кибергруппы, участвующие в хакерской деятельности, которые совершенствуют свои хакерские кампании, используя LLM, и имеют связи с военной разведкой России, правительствами Северной Кореи и Китая, а также с Корпусом стражей исламской революции Ирана.

Компания объявила о запрете на деятельность финансируемых государством кибергрупп, использующих её продукты и услуги на базе ИИ. В среду группа законодателей предложила законопроект, который поможет правительству Байдена усилить контроль за экспортом моделей ИИ, чтобы предотвратить их попадание к потенциальным противникам.

Эксперты по этому вопросу заявили, что Вашингтон пытается избежать чрезмерного регулирования, которое может подавить инновации, поскольку они стремятся стимулировать инновации наряду с возможными решениями рисков, связанных с ИИ. Они также подчеркнули, что строгое регулирование развития ИИ создаст вакуум для зарубежных конкурентов и негативно скажется на сферах инфраструктуры, национальной безопасности и разработки лекарств.