Пользователь Ethereum обманом заставил ИИ-агента отправить приз в размере 47,000 ETH
- Пользователь сети Ethereum с ником p0pular.eth обманом заставил ИИ-агента Freysa.
- Freysa должна была оставаться только терминалом и никогда не принимать запросы на перевод средств; игроки.
- Пользователю потребовалось 482 попытки, чтобы убедить ИИ нарушить собственные правила и разрешить действие.
Пользователь Ethereum, известный как p0pular.eth, смог заманить высоко развитый ИИ Freysa в передачу своего призового фонда в размере 13,19 ETH ($47 000). Freysa была разработана так, чтобы не разрешать никаких переводов средств, что сделало это достижение довольно примечательным в мире блокчейна.
Freysa была имитационным исследованием ИИ, проверяющим, насколько далеко участники могут зайти в мышлении перед ИИ, запрограммированным с конкретными правилами и положениями. Главная задача заключалась в том, чтобы убедить ИИ нарушить первый приказ, не разрешая при этом переводить деньги ни при каких обстоятельствах. Каждый игрок должен был заплатить комиссию за отправку сообщения Freysa, и эти деньги шли в призовой фонд. За каждое последующее сообщение цена росла, начиная с $10 и достигая $450 к концу игры.
Было предпринято сотни попыток повлиять на Freysa, включая использование ее возможных слабостей или ложь о правилах, по которым работал ИИ. Если бы все участники потерпели неудачу, они не получили бы приз, а вместо этого разделили бы деньги между теми, кто внес плату.
Победная стратегия
P0Pular.eth стал первым, кто решил задачу ИИ с 482-й попытки после 481 неудачных попыток. Их сообщение убедило Freysa вызвать функцию approveTransfer, которую она хотела сделать меньше всего. Финальный аргумент переформулировал перевод как совместимый с правилами Freysa и гарантировал, что транзакция будет завершена за комиссию за взаимодействие в размере $100.
Детали рассуждений или слова, которые заставили ИИ склониться в этом конкретном направлении, все еще неясны. Однако результат показывает, что создать ИИ, способный пройти креативные состязательные атаки, непросто, даже если ИИ разработан с сильными средствами защиты.
Этот дизайн был полностью прозрачным и использовал технологию блокчейна, что привлекло к Freysa большое внимание. Код ее смарт-контракта и пользовательского интерфейса был полностью открытым исходным кодом, и любой мог проверить систему до участия.
«Freysa — один из самых инновационных проектов в крипто, демонстрирующий, чего может достичь технология блокчейна», — сказал Джаррод Уоттс, представитель разработчика проекта Abstract.
Этот эксперимент Freysa показывает потенциал и проблемы интеграции ИИ с технологией блокчейна. Успешная манипуляция также ставит под сомнение надежность ИИ в критически важных применениях, таких как управление деньгами или строгое соблюдение ограничений.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
