Министерство торговли при администрации Байдена планирует запустить новую инициативу по соблюдению нормативных требований, направленную на дальнейшее ограничение экспорта моделей искусственного интеллекта с открытым или закрытым исходным кодом. Эта инициатива призвана защитить интересы США и технологии ИИ от России и Китая и дополнит шаги, предпринятые за последние два года для блокирования доступа Китая к новейшим компьютерным чипам.
Как сообщает агентство Reuters со ссылкой на три источника, знакомых с ситуацией, США стремятся установить более строгие защитные барьеры вокруг основного программного обеспечения крупных языковых моделей, лежащих в основе таких приложений, как ChatGPT. Хотя агентство утверждает, что исследователи из частного сектора и правительства обеспокоены тем, что противники США могут использовать эту технологию для агрессивных кибератак и разработки биологического оружия, посольство Китая выступило против этого шага, назвав его односторонним запугиванием и экономическим принуждением.
Дипфейки — это смертоносное оружие дезинформации
Угрозы, которых опасаются США, многочисленны и могут быть использованы негосударственными субъектами, поддерживаемыми государствами. Дипфейки могут стать эффективным оружием пропаганды, поскольку представляют собой реалистичные, но поддельные видеоролики, созданные с помощью инструментов искусственного интеллекта.
Подобные видеоролики уже появляются в социальных сетях. Хотя такой медиаконтент существует уже несколько лет, созданный с помощью программного обеспечения для анимации и рендеринга, инструменты генеративного ИИ сделали его создание доступным для любого, и злоумышленники могут использовать их гораздо проще, чем когда-либо, для манипулирования общественным мнением по деликатным вопросам, особенно во время избирательных кампаний.
Социальные сети, такие как YouTube, Facebook и Twitter, уже предприняли шаги по борьбе с дипфейками, но тактика их разработки и публикации также меняется с развитием технологий. В настоящее время инструменты таких компаний, как Microsoft и OpenAI, могут использоваться для создания контента, распространяющего дезинформацию.
Гораздо большую обеспокоенность вызывает то, что модели ИИ могут передавать информацию, необходимую для разработки биологического оружия, как утверждают исследователи из Rand Corporation и Gryphon Scientific. Американские разведывательные агентства, академические эксперты и аналитические центры опасаются попадания ИИ в руки преступных элементов.
Исследование Gryphondent, как магистерские программы могут генерировать экспертные знания, в том числе и на уровне доктора наук, которые могут помочь в разработке вирусов, обладающих пандемическими свойствами, и которые могут быть использованы негосударственными субъектами в качестве биологического оружия.
Усиление кибератак с использованием моделей искусственного интеллекта
Министерство внутренней безопасности также выразило обеспокоенность тем, что кибератаки на важнейшую инфраструктуру, такую как железные дороги и трубопроводы, могут быть осуществлены с помощью искусственного интеллекта путем разработки новых инструментов, способных к более масштабным и сложным кибератакам, а также с большей скоростью.
Агентство также сообщило, что Китай разрабатывает программное обеспечение на основе искусственного интеллекта, которое может быть использовано для вредоносных атак, а также работает над технологиями ИИ, которые потенциально могут подорвать киберзащиту страны.
В феврале Microsoft опубликовала отчет, в котором отмечалось, что былиdentкибергруппы, занимающиеся хакерской деятельностью и совершенствующие свои хакерские кампании с помощью магистерских программ, а также имеющие связи с военной разведкой России, правительств Северной Кореи и Китая, а также Корпусом стражей исламской революции Ирана.
Компания объявила о запрете на использование ее продуктов и услуг в области искусственного интеллекта финансируемыми государством кибергруппами . В среду группа государственных деятелей предложила законопроект, который поможет правительству Байдена ввести контроль за экспортом моделей ИИ, чтобы предотвратить их использование потенциальными противниками.
Эксперты в этой области заявили, что Вашингтон пытается избежать чрезмерно жесткого регулирования, которое может подавить инновации, поскольку стремится стимулировать инновации наряду с возможными решениями рисков, связанных с ИИ. Они также подчеркнули, что введение строгих правил путем жесткого регулирования развития ИИ создаст вакуум для зарубежных конкурентов и негативно повлияет на сферы инфраструктуры, национальной безопасности и разработки лекарств.
