Король Чарльз предупреждает о необходимости контролировать ИИ до того, как он разовьет «более темные способности» для отнятия жизни
- Король Чарльз III собрал лидеров ИИ из компаний Nvidia, OpenAI, Anthropic и Google DeepMind и предупредил, что они должны создать «достаточные средства контроля» над ИИ.
- Король Чарльз указал на экзистенциальные риски в случае попадания ИИ в неправильные руки.
- Руководители выслушали его, но не дали никаких публичных обязательств.
Во время саммита, организованного в Шотландии, король Чарльз III заявил руководителям крупнейших компаний в сфере ИИ, что они должны найти способы держать технологию под контролем человека.
Король предупредил, что люди, создавшие ИИ, теперь боятся, что он может развить «более темные способности» и даже быть использован для убийств.
Что говорит король Чарльз III об ИИ?
Король Чарльз III выступил в Дамфрис-хаусе в Восточном Эйршире, на собрании, организованном Фондом Дитчли, которое собрало около 30 руководителей, чиновников и исследователей, включая министра ИИ Великобритании Канишку Нараяна, генерального директора Nvidia Дженсена Хуанга, соучредителя DeepMind Демиса Хассабиса, финансового директора OpenAI Сару Фриар и главу по глобальным вопросам Anthropic Тино Куэляра.
В закрытый список гостей, просмотренный Bloomberg, также входили имена: глава МИ-6 Блейз Метрелеви, автор Юваль Ной Харари и Сюэ Лань из Университета Цинхуа.
Чарльзу, 77 лет, он выступал всего около 20 минут, после чего покинул зал, надеясь на продуктивные переговоры. Те, кто ценит моральное ядро человечества, сказал он, «тревожно ищут вашего успокоения в том, что мы не потеряем контроль над своей судьбой или своими душами».
Чарльз назвал темп развития технологии «в равной мере интригующим и глубоко тревожным». Он признал и похвалил ее достижения в медицине и науках о жизни, прежде чем задал прямой вопрос: «Разве нам не нужны достаточные средства контроля, пока не стало слишком поздно?»
Король сослался на опасения создателей технологии ИИ в своем предупреждении. Он также сказал, что системы рискуют «развить более темные способности, возможно, даже для отнятия жизни». Он добавил, что руководителям следует учитывать «экзистенциальные опасности» попадания инструментов в чужие руки.
Ранее Чарльз отправил видеосообщение на саммит по безопасности ИИ Великобритании 2023 года в Блетчли-парке, выразив схожие чувства.
Советник Ватикана по ИИ Паоло Бенанти присутствовал на саммите, а Папа Лев XIV написал в майской энциклике, что ИИ не должен оставаться в руках «немногих».
Замедлится ли развитие ИИ?
Хассабис сказал делегатам, что искусственный общий интеллект — системы, которые могут соответствовать или превосходить людей во многих задачах — «вероятно, всего через несколько коротких лет».
Он сказал, что технология может иметь потенциал воздействия, в десять раз превышающий влияние Промышленной революции. Вероятность того, что что-то пойдет не так, по его словам, «определенно не равна нулю», хотя он добавил, что «будущее еще не написано».
Фриар сказала, что растущая мощь технологии ставит вопросы о том, чтобы держать ее на службе у людей, и что «ни одна компания или правительство не могут сделать это в одиночку».
Хуанг, чья Nvidia оценивается примерно в 5,15 трлн долларов, сказал в зале, что безопасность имеет первостепенное значение, и что продукт следует задержать, если он не готов. Он выступил за регулирование продуктов ИИ, а не самой технологии, и защитил открытые модели как способ не допустить изоляции меньших стран и исследователей.
Саммит состоялся после вирусного поста об увольнении исследователя Anthropic Джейкоба Коксона и прогноза его коллеги Эвана Хьюбингера о том, что у ИИ есть 10% шанс вызвать вымирание человечества, что вызвало обеспокоенность.
Cryptopolitan сообщал, что Дарио Амодей из Anthropic опубликовал эссе с призывом к лабораториям «сдерживать передний край», и что OpenAI на этой неделе запустила систему, которая будет раскрывать проступки модели после регистрации шести инцидентов тревожного поведения.
Однако не все согласны с тем, что опасность реальна: президент Дональд Трамп назвал такие страхи «выдумкой».
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Часто задаваемые вопросы
Что сказал король Чарльз на саммите по ИИ?
Он предупредил, что сами создатели ИИ опасаются, что он может развить «тёмные способности, возможно даже для отнятия жизни», и задался вопросом, нужны ли отрасли «достаточные средства контроля, пока ещё не поздно», назвав темп развития технологии «как интригующим, так и глубоко тревожным».
Кто присутствовал на саммите в Дамфрис-хаусе?
Среди участников были генеральный директор Nvidia Дженсен Хуанг, сооснователь DeepMind Демис Хассабис, финансовый директор OpenAI Сара Фриар, глава по глобальным вопросам Anthropic Тино Куэльяр, министр ИИ Великобритании Канишка Нараян и советник Ватикана по ИИ Паоло Бенанти, а также около 30 человек, организованных Фондом Дитли.
Согласились ли компании ИИ с новыми правилами безопасности?
Нет. Руководители публично не взяли на себя обязательств по каким-либо изменениям, хотя Хассабис призвал к «разумному компромиссу», а Фрай заявил, что ни одна компания или правительство не могут в одиночку обеспечить безопасность.
Ханна Коллимор
Ханна — писатель и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптоиндустрии. В Cryptopolitan Ханна работает над новостной страницей, освещая и анализируя последние события в сферах DeFi, RWA, криптовалютного регулирования, искусственного интеллекта и передовых технологий. Она окончила Университет Аркадии со степенью бакалавра делового администрирования.
