Король Карл предупреждает о необходимости контролировать искусственный интеллект, прежде чем он разовьет «более темные способности», способные лишать жизни
Фотография предоставлена Арлингтонским национальным кладбищем на Flickr.
- Король Карл III созвал лидеров в области искусственного интеллекта из компаний Nvidia, OpenAI, Anthropic и Google DeepMind и предупредил, что им необходимо создать «достаточные средства контроля» для ИИ.
- Король Карл указал на экзистенциальные риски, которые возникнут, если искусственный интеллект попадет не в те руки.
- Руководители выслушали, но не дали никаких публичных обещаний.
В ходе саммита, проходившего в Шотландии, король Карл III заявил главам крупнейших мировых компаний, занимающихся искусственным интеллектом, что они должны найти способы сохранить контроль над этой технологией со стороны человека.
Король предупредил, что люди, построившие его, теперь опасаются, что он может обрести «более темные способности» и даже быть обращен в сторону убийств.
Что говорит король Карл III об искусственном интеллекте?
Король Карл III выступил в Дамфрис-Хаусе в Восточном Эйршире на мероприятии, организованном фондом Дитчли, которое собрало около 30 руководителей, чиновников и исследователей, включая министра по вопросам искусственного интеллекта Великобритании Канишку Нараяна, генерального директора Nvidia Дженсена Хуанга, соучредителя DeepMind Демиса Хассабиса, финансового директора OpenAI Сару Фрайар и главу отдела глобальных связей Anthropic Тино Куэльяра.
Как сообщается, в частном списке гостей, с которым ознакомилось агентство Bloomberg, также фигурировали такие имена, как глава MI6 Блез Метревели, писатель Юваль Ноа Харари и Сюэ Лань из Университета Цинхуа.
77-летний Чарльз говорил всего около 20 минут, после чего покинул комнату, надеясь на продуктивную беседу. Те, кто ценит моральные принципы человечества, сказал он, «с нетерпением ждут ваших заверений в том, что мы не потеряем контроль над своей судьбой или своими душами».
Чарльз назвал темпы развития технологий «одновременно интригующими и вызывающими глубокую озабоченность». Он признал и высоко оценил их достижения в медицине и биологических науках, прежде чем задать прямой вопрос: «Несомненно, нам нужны достаточные средства контроля, прежде чем станет слишком поздно?»
В своем предупреждении король упомянул опасения создателей технологий искусственного интеллекта. Он также сказал, что эти системы рискуют «обрести более темные способности, возможно, даже способность отнимать жизнь». Он добавил, что руководителям следует учитывать «экзистенциальные опасности» попадания этих инструментов в чужие руки.
Ранее Чарльз направил видеообращение на саммит по безопасности ИИ в Великобритании в 2023 году, проходивший в Блетчли-Парке, выразив аналогичные соображения.
На саммите присутствовал советник Ватикана по вопросам ИИ Паоло Бенанти, а Папа Лев XIV в майской энциклике написал, что ИИ не должен оставаться в руках «нескольких человек»
Замедлится ли развитие искусственного интеллекта?
Хассабис заявил делегатам, что искусственный общий интеллект — системы, способные сравниться с человеком или превзойти его во многих задачах, — «вероятно, появится уже через несколько лет»
Он сказал, что технологии могут оказать потенциальное влияние в десять раз большее, чем промышленная революция. Вероятность того, что что-то пойдет не так, добавил он, «defiне равна нулю», хотя и заключил, что «будущее еще не написано»
Фрайар сказал, что растущая мощь этой технологии вызывает вопросы о том, сможет ли она и дальше служить людям, и что «ни одна компания или правительство не могут сделать это в одиночку»
Хуан, чья компания Nvidia оценивается примерно в 5,15 триллиона долларов, заявил присутствующим, что безопасность имеет первостепенное значение и что продукт следует отложить, если он еще не готов. Он настаивал на регулировании продуктов искусственного интеллекта, а не самой технологии, и защищал открытые модели как способ предотвратить отчуждение малых стран и исследователей.
Саммит состоялся после того, как в интернете распространился пост об отставке исследователя-антрополога Джейкоба Коксона, а его коллега Эван Хубингер предсказал, что у ИИ есть 10% шансов привести к вымиранию человечества, что вызвало обеспокоенность.
Cryptopolitan сообщило, что Дарио Амодей из Anthropic опубликовал эссе, призывающее лаборатории «идти в ногу с передовыми технологиями», и что на этой неделе OpenAI запустила систему, которая будет раскрывать случаи некорректного поведения моделей после регистрации шести инцидентовdentвызывающих опасения.
Однако не все согласны с тем, что опасность реальна:dent Дональд Трамп назвал подобные опасения «мистификацией»
Если вы это читаете, значит, вы уже впереди. Оставайтесь на шаг впереди, подписавшись на нашу рассылку.
Часто задаваемые вопросы
Что сказал король Карл на саммите по искусственному интеллекту?
Он предупредил, что сами создатели ИИ опасаются, что он может развить «более темные способности, возможно, даже способность отнимать жизнь», и задался вопросом, нужны ли отрасли «достаточные средства контроля, прежде чем станет слишком поздно», назвав темпы развития этой технологии «одновременно интригующими и вызывающими глубокую озабоченность»
Кто присутствовал на саммите в Дамфрис-Хаусе?
Среди участников были генеральный директор Nvidia Дженсен Хуанг, соучредитель DeepMind Демис Хассабис, финансовый директор OpenAI Сара Фрайар, директор по глобальным связям Anthropic Тино Куэльяр, министр искусственного интеллекта Великобритании Канишка Нараян и советник Ватикана по искусственному интеллекту Паоло Бенанти, а также около 30 человек, организованных Фондом Дитчли.
Согласились ли компании, занимающиеся разработкой искусственного интеллекта, на какие-либо новые правила безопасности?
Нет. Руководители публично не заявляли о каких-либо изменениях, хотя Хассабис призвал к «разумному компромиссу», а Фрайар сказал, что ни одна компания или правительство в одиночку не могут обеспечить безопасность.
Ханна Коллимор
Ханна — писательница и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптопространстве. В CryptopolitanХанна пишет для новостной страницы, освещая и анализируя последние события в DeFi, RWA, регулирования криптовалют, ИИ и передовых технологических отраслей. Она окончила университет Аркадия со степенью в области делового администрирования.
