Развитие языковых моделей на базе ИИ вызывает опасения по поводу биотерроризма и биологического оружия

Быстрое развитие искусственного интеллекта привело к многочисленным прорывам в науке и здравоохранении, положительно изменив различные области. Однако это также вызывает серьёзные опасения относительно потенциального злоупотребления, особенно в контексте биотерроризма и биологического оружия. Знаменитый случай с японской сектой Аум Синрикё, пытавшейся совершить биотеррористическую атаку с использованием ботулотоксина, демонстрирует, как доступ к современным языковым моделям на базе ИИ может потенциально увеличить риск катастрофических событий биотерроризма.

Большие языковые модели, такие как ChatGPT, и инструменты биологического дизайна на базе ИИ могут действовать как множители угроз, позволяя злонамеренным субъектам получать доступ к знаниям в области двойного назначения и ускорять создание опасных биологических агентов. По мере того как пересечение ИИ и биологии становится более доступным, необходимо срочно принять меры для укрепления биобезопасности и управления ИИ.

Угроза языковых моделей ИИ в контексте биотерроризма

Легкость, с которой большие языковые модели, такие как ChatGPT, могут предоставлять информацию о потенциально опасных патогенах и биологическом оружии, вызывает серьезную обеспокоенность. Недавнее упражнение в MIT показало, что всего за один час ChatGPT инструктировал студентов-неученых по четырем потенциальным пандемическим патогенам и тому, как приобретать генетический материал без обнаружения. Распространение информации может дать возможность злонамеренным субъектам исследовать биологическое оружие без необходимой экспертизы.

Снижение барьера неявных знаний

Хотя языковые модели ИИ не могут предоставить практический опыт, они могут снизить барьер неявных знаний, необходимых для создания биологических агентов. По мере дальнейшего развития систем ИИ они могут способствовать автоматизации науки и тайному созданию биологического оружия, уменьшая потребность во многих ученых в таких проектах.

Роль инструментов биологического дизайна

Специализированные инструменты ИИ, такие как AlphaFold2 и RFdiffusion, уже расширяют границы возможностей биологического дизайна. Хотя они имеют потенциал для значительных достижений в медицине, они также могут усугубить биологические риски, позволив создавать высокоопасные патогены с беспрецедентными свойствами. Такие инструменты могут поставить под угрозу существующие меры контроля доступа к опасным токсинам и патогенам, поскольку они генерируют агенты с опасными свойствами, не охватываемыми традиционными методами скрининга.

Обязательные правила синтеза генов

Универсальный скрининг синтеза генов необходим для снижения рисков, возникающих на пересечении ИИ и биологии. Это включает проверку заказов и клиентов, чтобы убедиться, что только законные исследователи получают доступ к генетическому материалу для контролируемых агентов. Внедрение обязательного базового скрининга для поставщиков синтеза генов и других ключевых поставщиков услуг необходимо для предотвращения эксплуатации слабых мест в безопасности цепочки поставок.

Необходимость управления ИИ

Специфические вмешательства в области ИИ жизненно важны для управления рисками больших языковых моделей и инструментов биологического дизайна. Оценка возможностей моделей перед выпуском может гарантировать, что опасные функции отсутствуют при публичном выпуске. Выпуск моделей через структурированные методы доступа, а не через открытый исходный код, позволяет постоянно обновлять меры защиты. Лица, принимающие решения, должны разбираться в том, кто должен иметь доступ к возможностям науки двойного назначения, и учитывать мнения различных групп по дисциплинам, демографическим признакам и географическим регионам.

Балансирование между содействием законным научным исследованиям и предотвращением распространения опасных знаний имеет решающее значение. Публичные версии языковых моделей, таких как ChatGPT, могут отказаться предоставлять подробные инструкции по созданию опасных патогенов. В то же время для законных ученых с соответствующей подготовкой и одобрением могут быть реализованы специализированные методы доступа.

Слияние ИИ и биологии имеет огромный потенциал для положительного воздействия на науку и здравоохранение. Однако те же самые достижения несут серьезные риски, особенно в контексте биотерроризма и биологического оружия. По мере того как языковые модели ИИ и инструменты биологического дизайна становятся все более доступными, необходимы срочные меры для укрепления биобезопасности и управления. Внедрение обязательного скрининга синтеза генов, проведение оценки возможностей моделей перед выпуском и обеспечение дифференцированных методов доступа для законных ученых являются ключевыми шагами в решении этих возникающих проблем. Быстрые действия лиц, принимающих решения, могут не только повысить безопасность, но и проложить путь к ответственному использованию преимуществ искусственного интеллекта.