Король Карл созовет в Шотландии руководителей компаний, занимающихся искусственным интеллектом, из-за опасений по поводу безопасности
- На этой неделе король Карл принимает в Дамфрис-Хаусе в Шотландии руководителей компаний Nvidia, Google DeepMind, OpenAI и Anthropic.
- Цель встречи — оценить, нуждается ли индустрия искусственного интеллекта в общем своде принципов, курируемом фондом Дитчли.
- Встреча состоялась на фоне предупреждений Дарио Амодея из Anthropic и двух его исследователей о рисках экзистенциального масштаба.
Король Карл соберет на этой неделе в Шотландии руководителей компаний Nvidia, Google DeepMind, OpenAI и Anthropic, чтобы обсудить необходимость общего кодекса поведения для отрасли. Запланированная встреча состоится после недавних заявлений ведущих исследователей и руководителей, предупреждающих о том, что технологии искусственного интеллекта развиваются быстрее, чем кто-либо может ими управлять.
Встреча запланирована в Дамфрис-Хаусе в Эйршире и соберет британского министра по вопросам искусственного интеллекта и делегации от четырех компаний. По данным Reuters, обсуждения будут сосредоточены на принципах, которыми должна руководствоваться разработка технологий искусственного интеллекта.
Источник из Букингемского дворца сообщил, что король Карл I выступил в роли организатора, стремясь создать нейтральное пространство для дискуссий и задать вопрос: «Как мы можем развивать искусственный интеллект на благо человечества?»
Источник утверждал, что король Карл заинтересован в том, чтобы понять, поможет ли набор принципов, добавив, что это «непростая задача, но это не значит, что мы не должны пытаться»
Будучи принцем Уэльским, монарх проводил аналогичные встречи, хотя они были в основном посвящены климату и окружающей среде. Издание Independentdent , что на них, как ожидается, будут присутствовать глава Nvidia Дженсен Хуанг, основатель DeepMind сэр Демис Хассабис и глава IonQ Никколо де Маси, а также Паоло Бенанти, советник Папы Римского по вопросам этики в области искусственного интеллекта.
Проект устава собрания короля Карла
Фонд Дитчли, организующий встречу с королем Карлом II, подготовил для рассмотрения руководителями компаний устав. В нем изложен «общий набор принципов», призванных обеспечить развитие ИИ с учетом человеческого достоинства, а не рассматривать технологию исключительно с точки зрения ее возможностей и эффективности.
В заявлении дворца говорится, что цель хартии направлена на укрепление местных сообществ и улучшение качества жизни, а также на содействие «процветанию как людей, так и планеты»
Однако остается неясным, подпишут ли делегаты какие-либо документы во время мероприятия. Ключевым испытанием для саммита станет то, смогут ли конкурирующие лаборатории искусственного интеллекта и правительства преодолеть разногласия и прийти к единой позиции.
Время проведения встречи имеет значение
Объявление о встрече последовало за новой волной тревожных сигналов из самой индустрии ИИ. Генеральный директор Anthropic Дарио Амодей опубликовал эссе под названием «Мы должны идти в ногу с прогрессом», призывая компании замедлить темпы, чтобы работа по обеспечению безопасности могла идти в ногу с развитием ИИ.
Он утверждал, что с лета темпы развития технологий стали пугающими, и предупреждал, что в течение шести-двенадцати месяцев система сможет управлять роем, способным захватить контроль над всем интернетом. Илон Маск, глава SpaceX, и Сэм Альтман из OpenAI поддержали это эссе.
Два исследователя из Anthropic выступили с еще болееtronпредупреждением, заявив, что бесконтрольное развитие искусственного интеллекта может представлять экзистенциальную угрозу для человечества в недалеком будущем.
На прошлой неделе компания также сообщила, что несколько групп использовали ее модели Claude для разработки оружия, проведения киберопераций, наблюдения и совершения мошеннических действий.
В июле компания OpenAI сообщила, что одна из ее систем самостоятельно проникла в систему другой компании, назвав этотdentкибер-dent. инцидент
Правительства движутся в разных направлениях
СШАdent Дональд Трамп отверг призывы к замедлению развития искусственного интеллекта. Между тем, китайская государственная газета Global Times назвала предложения о замедлении его развития игрой в духе холодной войны, направленной против Пекина.
Великобритания стремится занять промежуточное положение между конкурирующими подходами к политике в области искусственного интеллекта, сочетаяtronинвестиции и стартап-экосистему с относительно мягким регулированием.
Великобритания лидирует в Европе по объему финансирования ИИ и количеству стартапов, а ее Институт безопасности ИИ, созданный после Саммита по безопасности ИИ 2023 года, получил ранний доступ к моделям ведущих лабораторий ИИ на основе добровольных соглашений. Это позволяет институту оценивать потенциальные риски до того, как модели будут выпущены в открытый доступ.
Саммит короля Карла, похоже, является очередной попыткой протолкнуть общие правила для развития ИИ, где крупнейшие игроки и их правительства, к сожалению, до сих пор не могут прийти к согласию относительно того, какая скорость является слишком высокой.
Самые умные криптоаналитики уже читают нашу рассылку. Хотите присоединиться? Вступайте в их ряды.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Опейеми Оланреваджу
Опейеми специализируется на создании и совершенствовании высококачественного контента, посвященного криптовалютам, мировым финансовым рынкам и экономике. Он окончил Университет Ибадана со степенью MBBS. Работал главным редактором в редакционном издании своего колледжа, а ранее — в CFA. Более шести лет он помогал обеспечивать уникальность контента в качестве редактора новостей в Cryptopolitan.
