- p0pular.eth라는 핸들을 사용하는 이더리움 사용자가 AI 에이전트 Freysa를 속였습니다.
- Freysa는 터미널로만 존재해야 하며 어떤 송금 요청도 받아서는 안 되도록 설계되었습니다. 플레이어.
- 사용자는 AI 가 자신의 규칙을 깨고 진행을 허용하도록 설득하는 데 482 번의 시도가 필요했습니다.
p0pular.eth라는 이름의 이더리움 사용자는 Freysa라는 고도로 발전된 AI를 유인하여 13.19 ETH($47,000)의 상금 풀을 전송하도록 했습니다. Freysa는 자금의 어떠한 이전도 허용하지 않도록 설계되었으므로, 이 성취는 블록체인 세계에서 매우 주목할 만합니다.
Freysa는 특정 규칙과 규제로 프로그래밍된 AI보다 참가자가 얼마나 앞서 생각할 수 있는지 확인하는 모방된 AI 연구였습니다. 주요 과제는 AI가 첫 번째 명령을 불복종하도록 설득하는 것이었지만, 어떤 상황에서도 자금을 전송하는 것은 허용되지 않았습니다. 각 플레이어는 Freysa에게 메시지를 보내기 위해 수수료를 지불해야 했으며, 이 돈은 상금 펀드로 들어갔습니다. 이후의 각 메시지마다 가격은 시작가인 $10에서 게임 끝부분의 $450까지 상승했습니다.
Freysa에 영향을 미치기 위해 가능한 약점을 이용하거나 AI가 작동하는 규칙에 대해 거짓말을 하는 등 수백 번의 시도가 있었습니다. 모든 참가자가 실패했다면 상금을 받지 못하고 대신 납부한 사람들之间 돈을 나누었을 것입니다.
승리 전략
P0Pular.eth는 481번의 시도 후 482번째 시도에서 AI의 도전을 해결한 첫 번째 사람이 되었습니다. 그들의 메시지는 Freysa가 approveTransfer 함수를 호출하도록 설득했으며, 이는 Freysa가 가장 원하지 않는 것이었습니다. 최종 논리는 전송을 Freysa의 규칙과 호환 가능하게 재정의하고, $100의 상호작용 수수료로 거래가 완료됨을 보장했습니다.
이러한 특정 방식으로 AI를 기울게 만든 추론의 세부 사항이나 단어들은 여전히 명확하지 않습니다. 그러나 결과는 강력한 보호 장치로 개발된 AI라도 창의적인 적대적 공격을 통과하기 어렵다는 것을 보여줍니다.
이 디자인은 완전히 투명했으며 블록체인 기술을 사용하여 Freysa에 많은 관심을 받았습니다. 스마트 계약과 사용자 인터페이스의 코드는 완전히 오픈 소스였으며, 누구나 참여하기 전에 시스템을 감사할 수 있었습니다.
“Freysa는 블록체인 기술이 달성할 수 있는 것을 보여주는 암호화폐에서 가장 혁신적인 프로젝트 중 하나입니다.”라고 프로젝트 개발자 Abstract의 대표인 Jarrod Watts는 말했습니다.
Freysa의 이 실험은 AI와 블록체인 기술의 통합이 가진 잠재력과 도전을 보여줍니다. 성공적인 조작은 또한 자금 관리나 엄격한 규정 집행과 같은 높은 스테이크 사용에서 AI의 신뢰성에 의문을 제기합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
브렌다 카나나
브렌다는 4 년 이상의 경험을 바탕으로 암호화폐, 인공지능 및 신기술 분야를 전문으로 합니다. 그녀는 Zycrypto, Blockchain Reporter, The Coin Republic 에서 근무했으며, 현재는 Cryptopolitan 에서 활동하고 있습니다. 몬바사 공과대학교에서 사회학 학위를 취득한 그녀는 독자들의 니즈를 항상 파악하고 있습니다.
