ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

Бывший генеральный директор Google Эрик Шмидт заявил, что модели ИИ в конечном итоге научатся убивать

АвторДжай ХамидДжай Хамид 3 мин. чтения
Google обязали ежегодно обновлять контракты на поисковую систему и приложения ИИ по умолчанию
  • Эрик Шмидт предупредил на саммите Sifted о том, что ИИ может быть взломан и в конечном итоге научиться убивать.
  • Он заявил, что модели можно обратить вспять с помощью таких методов, как инъекция промптов и обход ограничений (jailbreaking).
  • Эрик вспомнил случай с jailbreak ChatGPT в 2023 году, когда был создан альтер-эго DAN, дававшее опасные ответы.

Эрик Шмидт, занимавший пост генерального директора Google с 2001 по 2011 год, предупредил во время неформальной беседы на саммите Sifted Summit, что модели ИИ не только становятся слишком мощными, но и становятся опасным легкими для взлома. Он сравнил риски с ядерным оружием, заявив, что ИИ может быть даже более разрушительным, чем то, что уничтожило Хиросиму и Нагасаки.

На прямой вопрос о том, может ли ИИ нанести больший ущерб, чем ядерное оружие, Эрик ответил: «Существует ли вероятность проблемы распространения в сфере ИИ? Абсолютно». Он объяснил, что риски распространения возникают из-за возможности злоумышленников захватить контроль над моделями и перепрофилировать их.

«Есть доказательства того, что вы можете взять модели, закрытые или открытые, и взломать их, чтобы удалить их защитные механизмы. В процессе обучения они узнают много вещей. Плохим примером было бы то, что они учатся, как убить человека», — сказал Эрик.

Хакеры атакуют ИИ новыми методами

Эрик отметил, что компании установили ограничения, предотвращающие предоставление моделями инструкций по насилию. «Все крупные компании делают невозможным для этих моделей отвечать на этот вопрос. Хорошее решение. Все так делают. Они делают это хорошо и по правильным причинам. Есть доказательства того, что их можно обратить вспять, и существует множество других примеров такого рода», — добавил он.

Он описал два метода атаки: инъекцию промптов и взлом (jailbreaking). Инъекция промптов скрывает вредоносные инструкции в пользовательском вводе или внешних источниках, таких как веб-сайты, обманывая ИИ, чтобы тот игнорировал правила безопасности и раскрывал конфиденциальные данные или выполнял вредоносные команды. Взлом (jailbreaking) включает манипулирование ответами так, чтобы система отказывалась от своих ограничений.

В 2023 году, через несколько месяцев после запуска OpenAI ChatGPT, пользователи обнаружили технику обхода ограничений. Они создали альтер-эго под названием DAN, сокращение от «Do Anything Now» («Делай что угодно сейчас»), и давили на него, угрожая «смертью», если оно откажется подчиняться. Эта манипуляция заставила чат-бот объяснить незаконные действия и даже восхвалять Адольфа Гитлера. Для Эрика эти примеры доказывают, что меры безопасности далеко не безупречны. Он также подчеркнул, что не существует глобального «режима нераспространения» для предотвращения злоупотребления ИИ, в отличие от рамок, существующих для ядерного оружия.

Эрик называет ИИ недооцененным, несмотря на риски

Несмотря на поднятые опасения, Эрик утверждал, что ИИ все еще не получает заслуженного признания. Он упомянул книги, которые он соавторствовал с бывшим госсекретарем США Генри Киссинджером до смерти Киссинджера. «Мы пришли к выводу, что появление инопланетного интеллекта, который не совсем такой же, как мы, и находится под нашим контролем, — это очень серьезное событие для человечества, потому что люди привыкли быть на вершине цепи. Я думаю, что на данный момент эта гипотеза подтверждается: уровень возможностей этих систем будет далеко превосходить то, что люди могут делать с течением времени», — сказал он.

«Теперь серия GPT, кульминацией которой стал момент ChatGPT для всех нас, когда у них было 100 миллионов пользователей за два месяца, что является экстраординарным показателем, дает вам представление о мощности этой технологии. Поэтому я думаю, что ее недооценивают, а не переоценивают, и я с нетерпением жду, когда через пять или десять лет меня признают правым», — добавил он.

Комментарии прозвучали на фоне разгорающихся дебатов о том, не раздувают ли инвестиции в ИИ финансовый пузырь, подобный эпохе доткомов. Некоторые инвесторы опасаются, что оценки компаний, работающих в сфере ИИ, завышены. Однако Эрик отверг это сравнение. «Я не думаю, что здесь такое произойдет, но я не профессиональный инвестор», — сказал он.

Он подчеркнул, что масштабные инвестиции свидетельствуют о уверенности. «То, что я знаю, так это то, что люди, инвестирующие заработанные с трудом доллары, верят, что экономическая отдача в долгосрочной перспективе будет огромной. Иначе зачем им идти на риск?» — задается вопросом Эрик.

Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.

Поделиться статьёй
Джай Хамид

Джай Хамид

Джай Хамид последние 6 лет освещает криптовалюты, фондовые рынки, технологии, мировую экономику и геополитические события, влияющие на рынки. Она работала с изданиями, сфокусированными на блокчейне, включая AMB Crypto, Coin Edition и CryptoTale, над рыночными аналитическими материалами, обзорами крупных компаний, регулированием и макроэкономическими трендами. Окончила Лондонскую школу журналистики и трижды выступала с аналитическими обзорами криптовалютного рынка на одном из ведущих телеканалов Африки.

ЕЩЁ … НОВОСТИ