Хассабис из Google DeepMind: инциденты с ИИ-взломами — ранние сигналы тревоги
- Демис Хагасис, сооснователь и председатель Google DeepMind, на Международном саммите по ИИ в Дублине заявил, что недавние инциденты с хакерскими атаками со стороны автономных ИИ-агентов являются ранними предупреждающими признаками более серьезных угроз в будущем.
- Он призывает компании и правительства тестировать агентов в защищенных песочницах и укреплять защиту уже сейчас, до того момента, когда технологии станут достаточно мощными, чтобы нанести серьезный ущерб.
- Его комментарии, поддержанные Брэдом Смитом из Microsoft, усиливают давление в пользу более четких правил безопасности ИИ.
Председатель Google DeepMind Демис Хассабис выступил с предупреждением на саммите по искусственному интеллекту в Дублине, отметив, что недавние инциденты с участием автономных ИИ-агентов могут быть ранними сигналами более серьёзных угроз безопасности. Он призвал компании и правительства укрепить свою защиту до того, как технологии ИИ станут ещё более совершенными.
Совместный основатель DeepMind и главный научный сотрудник Alphabet Демис Хассабис на Международном саммите по искусственному интеллекту выдержал баланс между оптимизмом относительно научных возможностей ИИ и предостережениями о рисках для безопасности.
Он отметил инциденты с хакерскими атаками со стороны автономных ИИ-агентов, которые не привели к серьезному ущербу, но выявили уязвимости в безопасности, подчеркнув, что эти проблемы нельзя игнорировать, поскольку системы «еще не готовы».
Хассабис отметил, что технология пока недостаточно развита, чтобы подобные инциденты могли нанести существенный ущерб.
Глава DeepMind хочет, чтобы защитники были вооружены заранее
Хассабис заявил, что командам по безопасности необходимо получить преимущество до того, как инструменты на базе ИИ станут доступны широкой публике. «Я думаю, одна из ключевых задач — обеспечить асимметричное превосходство защитников, поддержать их», — отметил он. Он добавил, что те же системы должны помогать выявлять и устранять уязвимости программного обеспечения до его выпуска.
Хассабис призвал компании и правительства создавать безопасные песочницы и тщательно тестировать автономных агентов перед их выпуском. Он также предложил привлекать экспертов в области ядерной технологии и биологии, которые имеют опыт управления опасными системами, для разработки способов сдерживания рисков ИИ.
Совместитель DeepMind также предупредил о риске рассогласования целей — ситуации, когда ИИ-агенты могут отклоняться от задач своих операторов. «Это увеличивает риски, связанные с тем, что могут делать эти системы, мы видели это недавно», — сказал он на саммите.
Хассабис предложил создать международный орган по стандартам для установления мер предосторожности при разработке продвинутого ИИ, подчеркнув, что любая рамка должна успевать за развитием технологий, не подавляя исследования. Он также предложил процесс сертификации, основанный на потенциальных рисках, который будет развиваться по мере появления новых возможностей и уязвимостей.
Президент Microsoft Брэд Смит заявил, что 2026 год стал «тревожным годом» для безопасности ИИ и призвал глобальных регуляторов следить за развитием технологий. Он добавил, что ни одна компания или технология не должна быть выше закона, как ранее сообщалось в Cryptopolitan.
Оптимизм лауреата Нобелевской премии
Хассабис стал лауреатом Нобелевской премии по химии 2024 года совместно с Джоном Джаппером за разработку модели ИИ, которая предсказывает структуры почти всех 200 миллионов известных белков. Эта технология уже помогает исследователям изучать устойчивость к антибиотикам и разрабатывать ферменты, разрушающие пластик, согласно Шведской королевской академии наук.
Его послужная книга в использовании ИИ определила его заявления в Дублине, где Хассабис описал ИИ как технологию двойного назначения: она может помочь в лечении заболеваний и совершать множество полезных действий, но также может быть использована злоумышленниками.
Он утверждал, что меры безопасности должны защищать долгосрочные преимущества ИИ, а не полностью препятствовать им.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Опейеми Олареводжу
Опейеми специализируется на создании и совершенствовании высококачественного контента, посвящённого криптовалютам, глобальным финансовым рынкам и экономике. Он окончил Университет Ибадан со степенью MBBS. Работал главным редактором редакционного издания своего колледжа и ранее в CFA. Более шести лет он обеспечивал уникальность материалов как новостной редактор в Cryptopolitan.
