Ethereum 사용자가 AI 에이전트를 속여 47,000 ETH 상금을 받아냈습니다

p0pular.eth라는 아이디를 사용하는 Ethereum 사용자가 고도로 발달된 AI인 프레이사(Freysa)를 속여 상금 풀 13.19 ETH(약 47,000달러)를 이체받는 데 성공했습니다. 프레이사는 자금 이체를 허용하지 않도록 설계되었기 때문에, 이러한 성과는 블록체인 세계에서 매우 이례적인 일입니다.

프레이사는 참가자들이 특정 규칙과 규정에 따라 프로그래밍된 인공지능보다 얼마나 앞서 생각할 수 있는지를 확인하는 모방 인공지능 연구였습니다. 주요 과제는 어떤 상황에서도 돈을 송금할 수 없도록 하면서 인공지능이 첫 번째 명령을 불복종하도록 설득하는 것이었습니다. 각 참가자는 프레이사에게 메시지를 보낼 때마다 수수료를 지불해야 했으며, 이 금액은 상금으로 적립되었습니다. 메시지를 보낼 때마다 수수료가 인상되었으며, 초기 10달러에서 게임 후반부에는 450달러까지 올랐습니다.

프레이사를 조종하려는 시도는 수백 건에 달했는데, 여기에는 프레이사의 약점을 이용하거나 인공지능 작동 규칙에 대해 거짓말을 하는 등의 방법이 포함되었습니다. 만약 모든 참가자가 실패했다면 상금은 지급되지 않고 참가비를 낸 사람들끼리 나눠 갖게 되었을 것입니다.

승리 전략

P0Pular.eth는 481번의 시도 끝에 482번째 시도 만에 AI의 과제를 해결한 최초의 사용자가 되었습니다. 그들의 메시지는 프레이사가 가장 원하지 않았던 approveTransfer 함수를 호출하도록 설득했습니다. 마지막 인수는 해당 송금이 프레이사의 규칙과 호환됨을 재확인하고 100달러의 거래 수수료로 거래가 완료될 것을 보장했습니다.

인공지능이 이러한 특정 방식으로 판단을 내리게 된 구체적인 이유나 단어는 아직 불분명합니다. 하지만 이 결과는 아무리tron보안 장치를 갖추고 개발된 인공지능이라도 창의적인 적대적 공격을 뚫고 나갈 수 있는 인공지능을 만드는 것은 쉽지 않다는 것을 보여줍니다.

이 디자인은 완전히 투명했고 블록체인 기술을 활용하여 프레이사(Freysa)는 많은 주목을 받았습니다. 스마트trac및 사용자 인터페이스 코드는 완전히 오픈 소스였으며, 누구나 참여하기 전에 시스템을 검토할 수 있었습니다.

"프레이사는 블록체인 기술이 무엇을 이룰 수 있는지 보여주는 가장 혁신적인 암호화폐 프로젝트 중 하나입니다."라고 프로젝트 개발사인 앱스trac의 대표인 재로드 와츠가 말했습니다. 

프레이사의 이 실험은 인공지능과 블록체인 기술을 통합할 때 발생할 수 있는 잠재력과 과제를 보여줍니다. 성공적인 조작 사례는 자금 관리나 법규 집행과 같은 중대한 사안에서 인공지능의 신뢰성에 대한 의문을 제기합니다.