Модели искусственного интеллекта могут быть опасны, если им позволить действовать неконтролируемо

Министерство торговли при администрации Байдена планирует запустить новую инициативу по соблюдению нормативных требований, направленную на дальнейшее ограничение экспорта моделей искусственного интеллекта с открытым или закрытым исходным кодом. Эта инициатива призвана защитить интересы США и технологии ИИ от России и Китая и дополнит шаги, предпринятые за последние два года для блокирования доступа Китая к новейшим компьютерным чипам.

Как сообщает агентство Reuters со ссылкой на три источника, знакомых с ситуацией, США стремятся установить более строгие защитные барьеры вокруг основного программного обеспечения крупных языковых моделей, лежащих в основе таких приложений, как ChatGPT. Хотя агентство утверждает, что исследователи из частного сектора и правительства обеспокоены тем, что противники США могут использовать эту технологию для агрессивных кибератак и разработки биологического оружия, посольство Китая выступило против этого шага, назвав его односторонним запугиванием и экономическим принуждением.

Дипфейки — это смертоносное оружие дезинформации

Угрозы, которых опасаются США, многочисленны и могут быть использованы негосударственными субъектами, поддерживаемыми государствами. Дипфейки могут стать эффективным оружием пропаганды, поскольку представляют собой реалистичные, но поддельные видеоролики, созданные с помощью инструментов искусственного интеллекта. 

Подобные видеоролики уже появляются в социальных сетях. Хотя такой медиаконтент существует уже несколько лет, созданный с помощью программного обеспечения для анимации и рендеринга, инструменты генеративного ИИ сделали его создание доступным для любого, и злоумышленники могут использовать их гораздо проще, чем когда-либо, для манипулирования общественным мнением по деликатным вопросам, особенно во время избирательных кампаний.

Социальные сети, такие как YouTube, Facebook и Twitter, уже предприняли шаги по борьбе с дипфейками, но тактика их разработки и публикации также меняется с развитием технологий. В настоящее время инструменты таких компаний, как Microsoft и OpenAI, могут использоваться для создания контента, распространяющего дезинформацию.

Гораздо большую обеспокоенность вызывает то, что модели ИИ могут передавать информацию, необходимую для разработки биологического оружия, как утверждают исследователи из Rand Corporation и Gryphon Scientific. Американские разведывательные агентства, академические эксперты и аналитические центры опасаются попадания ИИ в руки преступных элементов.

Исследование Gryphondent, как магистерские программы могут генерировать экспертные знания, в том числе и на уровне доктора наук, которые могут помочь в разработке вирусов, обладающих пандемическими свойствами, и которые могут быть использованы негосударственными субъектами в качестве биологического оружия.

Усиление кибератак с использованием моделей искусственного интеллекта

Министерство внутренней безопасности также выразило обеспокоенность тем, что кибератаки на важнейшую инфраструктуру, такую ​​как железные дороги и трубопроводы, могут быть осуществлены с помощью искусственного интеллекта путем разработки новых инструментов, способных к более масштабным и сложным кибератакам, а также с большей скоростью.

Агентство также сообщило, что Китай разрабатывает программное обеспечение на основе искусственного интеллекта, которое может быть использовано для вредоносных атак, а также работает над технологиями ИИ, которые потенциально могут подорвать киберзащиту страны.

В феврале Microsoft опубликовала отчет, в котором отмечалось, что былиdentкибергруппы, занимающиеся хакерской деятельностью и совершенствующие свои хакерские кампании с помощью магистерских программ, а также имеющие связи с военной разведкой России, правительств Северной Кореи и Китая, а также Корпусом стражей исламской революции Ирана.

Компания объявила о запрете на использование ее продуктов и услуг в области искусственного интеллекта финансируемыми государством кибергруппами . В среду группа государственных деятелей предложила законопроект, который поможет правительству Байдена ввести контроль за экспортом моделей ИИ, чтобы предотвратить их использование потенциальными противниками.

Эксперты в этой области заявили, что Вашингтон пытается избежать чрезмерно жесткого регулирования, которое может подавить инновации, поскольку стремится стимулировать инновации наряду с возможными решениями рисков, связанных с ИИ. Они также подчеркнули, что введение строгих правил путем жесткого регулирования развития ИИ создаст вакуум для зарубежных конкурентов и негативно повлияет на сферы инфраструктуры, национальной безопасности и разработки лекарств.