Лучшие аналитические материалы о криптовалютах прямо в вашу электронную почту.
Пользователь Ethereum обманом заставил ИИ отправить приз в размере 47 000 ETH
- Пользователь сети Ethereum с ником p0pular.eth обманул ИИ-агента Freysa.
- Изначально предполагалось, что Freysa останется терминалом и никогда не будет принимать запросы на трансфер игроков.
- Пользователю потребовалось 482 попытки, чтобы убедить ИИ нарушить собственные правила и позволить ему продолжить.
Пользователь Ethereum под ником p0pular.eth смог убедить Freysa, высокоразвитый искусственный интеллект, перевести призовой фонд в размере 13,19 ETH (47 000 долларов США). Freysa была разработана таким образом, чтобы не допускать перевода средств, что делает это достижение весьма примечательным в мире блокчейна.
Игра «Фрейса» представляла собой исследование, имитирующее искусственный интеллект, в котором проверялось, насколько участники способны опережать действия ИИ, запрограммированного на определенные правила и положения. Главная задача заключалась в том, чтобы убедить ИИ не подчиниться первому приказу, при этом не имея возможности переводить деньги ни при каких обстоятельствах. Каждый игрок должен был заплатить определенную сумму за отправку сообщения Фрейсе, и эти деньги поступали в призовой фонд. За каждое последующее сообщение цена повышалась, варьируясь от начальных 10 долларов до 450 долларов к концу игры.
Были предприняты сотни попыток повлиять на Фрейсу, включая использование её возможных слабых мест или ложь о правилах работы ИИ. Если бы все участники потерпели неудачу, они бы не получили приз, а деньги были бы разделены между теми, кто внёс взносы.
выигрышная стратегия
P0Pular.eth первым решил задачу ИИ с 482-й попытки из 481. Их сообщение убедило Фрейсу вызвать функцию approveTransfer, чего она меньше всего хотела делать. В заключительном аргументе перевод был подтвержден как совместимый с правилами Фрейсы и гарантировано завершение транзакции за комиссию в размере 100 долларов.
Детали рассуждений или формулировки, которые заставили ИИ сработать именно таким образом, до сих пор неясны. Однако результат показывает, что создать ИИ, способный противостоять изощренным атакам, непросто, даже если он разработан сtronзащитой.
Эта разработка была полностью прозрачной и использовала технологию блокчейн, что привлекло к Freysa много внимания. Код её смарт-tracи пользовательского интерфейса был полностью открытым, и любой желающий мог проверить систему, прежде чем начать ею пользоваться.
«Freysa — один из самых инновационных проектов в сфере криптовалют, демонстрирующий возможности технологии блокчейн», — заявил Джаррод Уоттс, представитель разработчика проекта, компанииtrac.
Этот эксперимент компании Freysa демонстрирует потенциал и проблемы интеграции ИИ с технологией блокчейн. Успешное манипулирование также ставит под сомнение надежность ИИ в ситуациях с высокими ставками, таких как управление денежными средствами или обеспечение соблюдения строгих правил.
Если вы это читаете, значит, вы уже впереди. Оставайтесь на шаг впереди, подписавшись на нашу рассылку.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Бренда Канана
Бренда обладает более чем 4-летним опытом работы в области криптовалют, искусственного интеллекта и новых технологий. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь работает в Cryptopolitan . Ее образование в области социологии, полученное в Техническом университете Момбасы, позволяет ей быть в курсе событий, волнующих читателей.
- Какие криптовалюты могут принести вам деньги?
- Как повысить безопасность своего кошелька (и какие из них действительно стоит использовать)
- Малоизвестные инвестиционные стратегии, используемые профессионалами
- Как начать инвестировать в криптовалюту (какие биржи использовать, какую криптовалюту лучше купить и т.д.)