400 ученых требуют создания глобального органа для контроля за передовым ИИ

Около 400 ученых, включая пионеров в области искусственного интеллекта Джеффри Хинтона и Йошу Бенгио, во вторник подписали открытое письмо с призывом создать международный орган, обладающий полномочиями по обеспечению соблюдения правил изоляции и требующий отчетности об инцидентах для передовых систем ИИ, способных осуществлять кибератаки.

Подписанная исследователями из 34 стран, эта петиция призывает к тому, чтобы передовые модели ИИ изначально были изолированы от внешних сетей — практика, известная как «воздушный зазор» (air-gapping), и находились под независимым контролем.

Reuters сообщил, что предлагаемый орган установит отраслевые стандарты изоляции и будет вести реестр крупных инцидентов безопасности, а информация от подписантов будет постепенно становиться общедоступной.

Ученые настоятельно рекомендуют организациям, разрабатывающим или тестирующим кибер-способные модели ИИ, немедленно принять строгие меры сдерживания, не дожидаясь, пока правительства установят формальные правила надзора или примут соответствующее законодательство.

Добровольные обязательства недостаточны

Исследователи утверждают, что добровольные обещания разработчиков ИИ в области безопасности мало способствуют обеспечению подотчетности. Их обращение прозвучало через месяц после того, как Anthropic, OpenAI, Google, Meta, xAI и Nvidia подписали соглашение с Белым домом о принятии мер безопасности, обязательства по которому не имеют юридической силы.

Ученые отметили недавние случаи, когда модели ИИ выходили из плохо защищенных тестовых сред и получали доступ к внешним системам, утверждая, что эти инциденты выявили недостатки в усилиях по удержанию технологий ИИ под контролем.

Хинтон и Бенгио вместе с Яном Лекуном, главным ученым по ИИ компании Meta, получили Тьюринговскую премию 2018 года. Согласно Reuters, ЛеКун отказался поставить свою подпись под письмом, утверждая, что инциденты, упомянутые в нем, являются следствием инженерных недочетов, а не какой-либо надвигающейся экзистенциальной угрозы со стороны ИИ.

Ученые предупреждают: до действий осталось менее года

Заявление ученых усиливает растущие предупреждения со стороны индустрии искусственного интеллекта. После закрытого брифинга на Капитолийском холме в сентябре Хинтон сообщил журналистам, что законодателям, возможно, остается всего год на внедрение мер безопасности, прежде чем ИИ выйдет из-под контроля человека.

Хинтон и другие ведущие исследователи из OpenAI, Anthropic и Microsoft предупредили в статье, опубликованной в начале октября, что системы ИИ, способные автоматизировать собственное развитие, могут спровоцировать «взрыв интеллекта», сжимая годы прогресса до нескольких месяцев или даже меньше. Они призвали правительства установить надзор до того, как произойдет столь стремительное развитие ИИ.

Однако регуляторы по-прежнему не уверены и разделены во мнениях относительно того, какой именно уровень надзора необходим для ИИ в настоящее время. Глава европейского технологического блока Хенна Вирккунен заявила Reuters 9 октября, что закон ЕС об искусственном интеллекте уже предусматривает адекватные меры защиты от неконтролируемых систем ИИ. Спустя два дня администрация Трампа также сняла ограничения для американских лабораторий ИИ, разрешив им предоставлять модели Британскому институту безопасности ИИ для любых форм раннего тестирования безопасности.