p0pular.eth として知られる Ethereum ユーザーは、高度に開発された AI である Freysa を誘惑し、賞金総額 13.19 ETH (47,000 ドル) を送金させることに成功しました。 Freysa は資金の移動を許可しないように設計されていたため、この成果はブロックチェーンの世界でかなり注目に値します。
Freysa は、特定のルールや規制でプログラムされた AI を前に、参加者がどれだけ先回りして考えることができるかをチェックする模倣 AI 研究でした。主なタスクは、いかなる状況でも送金を許可されずに、最初の命令に従わないように AI を説得することでした。各プレイヤーはフレイサにメッセージを送信するために料金を支払う必要があり、このお金は賞金基金に寄付されました。その後メッセージが送信されるたびに、価格は開始時の 10 ドルから、ゲームの終わりに向けて 450 ドルまで上昇しました。
フレイサの潜在的な弱点を悪用したり、AI が動作するルールについて嘘をついたりするなど、フレイサに影響を与える試みが何百回も行われました。参加者全員が不合格だった場合、賞品は授与されず、代わりにお金を支払った人たちで山分けすることになっていたでしょう。
必勝戦略
P0Pular.eth は、481 回の試行を経て、482 回目の試行で AI の課題を最初に解決しました。彼らのメッセージで Freysa は、approveTransfer 関数を呼び出すよう説得されましたが、これは彼女が最もやりたくないことでした。最終弁論では、この送金はFreysaのルールに準拠していると改めて主張し、取引は100ドルのやり取り手数料で完了することを保証した。
AIがこのような特定の方向に傾いた理由や言葉の詳細はまだ不明です。しかし、この結果は、たとえtronな保護を備えて AI が開発されたとしても、創造的な敵対的攻撃を通過できる AI を作成するのは容易ではないことを示しています。
このデザインは完全に透明でブロックチェーン技術を使用しており、Freysa は大きな注目を集めました。そのスマートtracとユーザー インターフェイスのコードは完全にオープンソースであり、誰でも参加する前にシステムを監査できました。
「Freysaは暗号通貨分野で最も革新的なプロジェクトの1つであり、ブロックチェーン技術が何を達成できるかを示しています」とプロジェクトの開発者であるAbstractの代表ジャロッド・ワッツ氏は述べた。
Freysa 氏によるこの実験は、AI とブロックチェーン技術の統合の可能性と課題を示しています。不正操作の成功は、資金管理や規制の執行など、一か八かの用途における AI の信頼性にも疑問を投げかけている。
あなたの暗号ニュースは注意に値します -キーの違いワイヤーはあなたを250以上のトップサイトに置きます
