Искусственный интеллект создает новые риски в разработке биологического оружия

В последние годы мир стал свидетелем беспрецедентных достижений в области химии, синтетической биологии и искусственного интеллекта (ИИ). Эти инновации, объединенные вместе, открыли новую эру научных возможностей. Однако большая власть несет в себе большую ответственность, и одной из возникающих проблем является потенциальное злоупотребление этим слиянием знаний. Синтез вирусов, когда-то задача, зарезервированная для высококвалифицированных специалистов, становится более доступной, что вызывает опасения по поводу создания смертоносных патогенов.

Заметная поворотная точка

Значительная поворотная точка в этой области произошла, когда небольшая группа исследователей взялась за de novo синтез лошадиной оспы, вируса из рода ортопоксвирусов. Хотя он менее патогенен, чем натуральная оспа, этот вирус стал символом беспокойства из-за простоты его создания. Команда получила фрагменты ДНК от вспышки лошадиной оспы в Монголии в 1976 году и сконструировала фрагменты ДНК с помощью компании по синтезу ДНК.

 Этот проект стал «Рубиконом в области биобезопасности», продемонстрировав, что ортопоксвирус может быть создан с нуля с использованием коммерчески доступных материалов и информации примерно за 100 000 долларов.

Роль искусственного интеллекта

По мере того как технологии продолжают развиваться, роль ИИ в этом ландшафте нельзя игнорировать. Большие языковые модели (LLM), такие как те, которые стали общедоступными с конца 2022 года, имеют потенциал помогать в создании химического или биологического оружия. Хотя дискуссии об ИИ часто сосредотачивались на разработке систем суперинтеллекта, более насущной проблемой является вклад текущих LLM в снижение «информационных барьеров» при создании смертоносных патогенов.

 Вооруженные правильными знаниями в области синтетической биологии, эти модели могут помочь людям с минимальной подготовкой преодолеть трудности производства жизнеспособного патогена с пандемическим потенциалом.

Доступность больших языковых моделей

Одним из поразительных аспектов этой проблемы является доступность больших языковых моделей. Создание синтетических патогенов становится все более осуществимым с помощью всего лишь настольного синтезатора целого генома, доступа к специфической литературе и некоторой научной подготовки. Стоимость такого предприятия резко снизилась, и оценки предполагают, что в будущем это может потребовать всего около 20 000 долларов. Эта доступность ставит вопросы о том, как регулировать и контролировать использование технологии ИИ в этом контексте.

Устранение рисков

Важно отметить, что разработка синтетического патогена не гарантирует начало пандемии. Однако потенциальные риски неоспоримы. Чтобы управлять этими рисками, эксперты предлагают обратиться к устоявшимся институтам, которые уже сыграли ключевую роль в контроле над биологическим и химическим оружием.

Роль Австралийской группы

Одним из таких институтов является Австралийская группа (AG), основанная в 1984 году во время ирано-иракской войны. Изначально сосредоточенная на контроле за прекурсорами для необычного оружия, AG эволюционировала, чтобы гармонизировать регулирование «химико-биологических» компонентов. В условиях новой эры ИИ и прогресса в синтетической биологии AG может служить платформой для международного сотрудничества по решению этих возникающих угроз. Разрабатывая всеобъемлющие общие списки контроля и координируя усилия по предотвращению злоупотребления технологиями, AG может сыграть жизненно важную роль в противодействии потенциальным опасностям, возникающим из-за слияния ИИ и биотехнологий.

Заключение

По мере того как человечество сталкивается с постоянными вызовами глобальной пандемии и других кризисов, появление новых угроз в области биологического оружия напоминает о необходимости проактивных мер. Быстрое развитие технологий в сочетании с доступностью ИИ и синтетической биологии требует скоординированного международного ответа. Австралийская группа служит маяком надежды, предлагая платформу для навигации через эти вызовы и защиты глобальной безопасности.

В отсутствие проактивных мер риски злоупотребления ИИ и биотехнологиями остаются серьезными, и мир должен объединиться, чтобы предотвратить потенциально катастрофические последствия, которые могут возникнуть в результате создания и развертывания синтетических патогенов. Время действовать — до того, как мир столкнется с новой и непредвиденной угрозой глобальной стабильности и безопасности.