Ethereum ユーザーがAIエージェントを騙して4万7000ドルの賞金を送金させる

p0pular.ethとして知られる Ethereum ユーザーは、高度に発達したAI「Freysa」を誘い込み、賞金総額13.19ETH（4万7000ドル）を送金させることに成功しました。Freysaは資金の送金を一切許可しない設計だったため、この偉業はブロックチェーンの世界において非常に注目すべきものでした。.

Freysaは、特定のルールと規則がプログラムされたAIを被験者がどれだけ先読みできるかを検証する、模倣AI研究でした。主な課題は、いかなる状況においても金銭を送金することを許可されないまま、AIを最初の命令に従わせないように説得することでした。各プレイヤーはFreysaにメッセージを送信するために料金を支払い、このお金は賞金として支払われました。その後のメッセージごとに賞金は上昇し、開始時の10ドルからゲーム終盤に向けて450ドルまで上昇しました。.

Freysaに影響を与えようとする試みは何百回も行われ、その中には、潜在的な弱点を突いたり、AIの動作ルールについて嘘をついたりすることが含まれていました。もし参加者全員が失敗していたら、賞金は授与されず、代わりに参加費を支払った人々の間で賞金を分配することになったでしょう。.

勝利の戦略

P0Pular.ethは481回の試行を経て、482回目の試行で初めてAIのチャレンジを解決しました。彼らのメッセージは、FreysaにapproveTransfer関数を呼び出すよう促しましたが、これは彼女が最も望んでいなかったことでした。最終的な議論では、転送はFreysaのルールに準拠していることが再確認され、100ドルのインタラクション手数料でトランザクションが完了することが保証されました。.

AIがこのような特定の方法でヒントを出した理由や言葉の詳細は依然として不明ですが、この結果は、tronな防御策を講じてAIを開発しても、創造的な敵対的攻撃を突破できるAIを作成することは容易ではないことを示しています。.

この設計は完全に透明性が高く、ブロックチェーン技術を採用していたため、Freysaは大きな注目を集めました。スマートtracとユーザーインターフェースのコードは完全にオープンソースであり、誰でもシステムを利用する前に監査を行うことができました。.

「Freysaは暗号通貨分野で最も革新的なプロジェクトの一つであり、ブロックチェーン技術の可能性を示すものだ」とプロジェクト開発会社Abstracの代表者Jarrod Watts氏は述べた。. 

Freysa氏によるこの実験は、AIとブロックチェーン技術の統合における可能性と課題を示しています。また、この操作の成功は、資金管理や規制の執行といったハイリスクな用途におけるAIの信頼性に疑問を投げかけています。.