Хассабис призывает США возглавить глобальный регулятор в сфере искусственного интеллекта до конца года
- Генеральный директор Google DeepMind Демис Хассабис хочет, чтобы в США был создан надзорный орган по типу FINRA, который бы проверял перспективные модели искусственного интеллекта и останавливал их разработку, если риски возрастают.
- Согласно его плану, передовые лаборатории должны добровольно предоставлять модели для тестирования в области кибербезопасности, биологии и обмана за 30 дней до их выпуска.
- Хассабис предупреждает, что в течение 18 месяцев могут возникнуть серьезные биологические и ядерные риски.
Демис Хассабис, соучредитель и генеральный директор Google DeepMind, хочет, чтобы правительство США создало новый надзорный орган, которому будет поручено проверять самые мощные в мире модели искусственного интеллекта. Этот орган также будет иметь право отдавать распоряжения отрасли о замедлении темпов развития, если опасность возрастет.
Он подробно изложил это в своем манифесте, опубликованном 14 июля, и заявил, что хочет, чтобы этот орган начал работу до конца года.
Хассабис — один из ведущих специалистов в области искусственного интеллекта. Он разделил Нобелевскую премию по химии 2024 года за свои работы по сворачиванию белков и руководит лабораторией, стоящей за проектом Gemini.
В интервьюон заявил, что отрасль достигла того момента, когда надзор за ИИ должен быть системнымmaticфинансироваться самими лабораториями, обеспечиваться техническими экспертами и быть подотчетным правительству США.
Что предпримет американский орган по надзору за ИИ?
Компания Hassabis создает эту организацию по образцу FINRA, частного регулирующего органа, финансируемого отраслью и осуществляющего надзор за брокерами Уолл-стрит под эгидой Комиссии по ценным бумагам и биржам.
Согласно его плану, передовые лаборатории сначала добровольно передавали бы свои модели, за 30 дней до их выпуска, чтобы организация могла проверить их на наличие опасных кибернетических, биологических и «обманных» возможностей.
Он заявил, что как только результаты тестирования докажут свою надежность, формальные правила «могут появиться в ближайшее время», то есть модель должна будет пройти проверку, прежде чем ее можно будет внедрить на рынке США.
Эти стандарты будут применяться ко всем системам передового класса, и Хассабис добавил, что «независимо от страны происхождения или того, являются ли они открытыми или закрытыми», при этом контрольные показатели будут обновляться по мере развития технологий.
Он также хочет, чтобы совет директоров был в большинстве своемdent, состоял из лауреатов премии Тьюринга и другихdentисследователей, а также включал в себя представителей промышленности, правительства и разработчиков открытого программного обеспечения. Он заявил, что звание «передового» станет знаком статуса, добавив: «Я думаю, это довольно неплохой, престижный актив»
Почему Хассабис призывает к созданию органа по надзору за ИИ именно сейчас?
Хассабис утверждает, что сегодняшние кибератаки с использованием ИИ — это «предупредительные выстрелы». По его словам, в течение 18 месяцев более серьезные биологические и ядерные риски могут скрываться в моделях с открытым исходным кодом, которые ни одно правительство не сможет отозвать. Он добавил, что угроза не ограничивается открытыми системами и что будущие собственные запатентованные модели лабораторий будут нести ту же опасность.
Он заявил, что хочет, чтобы надзорный орган начал работу через несколько месяцев, и в последние недели проводил брифинги для администрации Трампа, руководителей конкурирующих лабораторий и европейских чиновников, прежде чем сделать публичное заявление. «Слухи, которые я слышу, очень позитивные», — сказал он о переговорах в Белом доме.
До прошлого месяца эта администрация придерживалась невмешательского подхода, но затем ввела экспортный контроль, ограничив доступ к ним. Позже этот контроль был снят, и Anthropic выпустила модели с более строгим контролем.
С другой стороны, компания OpenAI на прошлой неделе согласилась ограничить доступ к GPT-5.6 только для партнеров, прошедших проверку правительства, прежде чем выпустить его в открытый доступ после тестирования с Министерством торговли. Этот шаг был воспринят как попытка избежать того же результата, что и у Anthropic.
Хассабис говорит, что этотdent стал «своего рода тревожным сигналом»
Редкий случай согласия
Генеральный директор Anthropic Дарио Амодей также считает, что должно существовать агентство, обладающее полномочиями для контроля за небезопасными моделями ИИ, и призывает к принятию обязательных правил и созданию агентства по образцу Федерального управления гражданской авиации (FAA).
Позиция Амодеи совпадает с позицией Хассабиса; однако последний отдает предпочтение более мягкой, управляемой отраслью структуре FINRA.
Стоит отметить убеждение Хассабиса в том, что ставки быстро растут. Он говорил, что искусственный общий интеллект (AGI), система, соответствующая всему спектру когнитивных способностей человека, «вероятно, появится всего через несколько лет», а на мероприятии в Стэнфорде он назвал это событие приближением к 2030 году, «плюс-минус год». В своем манифесте он написал, что исследователи «нашли способ заставить песок думать», назвав это «чудом»
Не просто читайте новости о криптовалютах. Разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.
Часто задаваемые вопросы
Что предлагает Демис Хассабис?
Он предлагает создать в США орган по стандартизации ИИ, по образцу регулятора Уолл-стрит FINRA, который будет тестировать самые передовые в мире модели на предмет опасных киберугроз, биологических угроз и возможностей обмана, а также сможет координировать замедление темпов развития отрасли в случае усиления угроз.
Когда Хассабис хочет, чтобы система мониторинга ИИ начала свою работу?
В интервью Axios он заявил, что хочет, чтобы этот орган начал работу в течение "месяцев", в идеале до конца 2026 года, и сказал, что его переговоры с администрацией Трампа принесли позитивные сигналы.
Согласны ли другие лаборатории, занимающиеся искусственным интеллектом, с мнением Хассабиса?
Руководители ведущих лабораторий сходятся во мнении, что Вашингтон должен регулировать передовые разработки в области ИИ, но расходятся во мнениях относительно структуры регулирования. Генеральный директор Anthropic Дарио Амодей призывает к созданию агентства по типу Федерального управления гражданской авиации (FAA) с обязательными полномочиями по блокированию небезопасных моделей, в то время как Хассабис выступает за более мягкий, финансируемый промышленностью орган под государственным надзором.
Ханна Коллимор
Ханна — писательница и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптопространстве. В CryptopolitanХанна пишет для новостной страницы, освещая и анализируя последние события в DeFi, RWA, регулирования криптовалют, ИИ и передовых технологических отраслей. Она окончила университет Аркадия со степенью в области делового администрирования.
