Ethereum Nutzer überlistet KI-Agenten und erhält 47.000 US-Dollar ETH als Preisgeld

Ein Ethereum Nutzer namens p0pular.eth konnte Freysa, eine hochentwickelte KI, dazu bringen, ihren Preispool von 13,19 ETH (47.000 US-Dollar) zu transferieren. Freysa war so programmiert, dass sie keine Geldtransfers zulässt, was diesen Erfolg in der Blockchain-Welt bemerkenswert macht.

Freysa war eine Studie, die eine künstliche Intelligenz simulierte und untersuchte, wie vorausschauend die Teilnehmer einer KI mit festgelegten Regeln und Vorschriften denken konnten. Die Hauptaufgabe bestand darin, die KI dazu zu bringen, den ersten Befehl zu missachten, ohne dabei unter allen Umständen Geld überweisen zu dürfen. Jeder Spieler musste eine Gebühr für das Senden einer Nachricht an Freysa entrichten; dieses Geld floss in den Preispool. Mit jeder weiteren Nachricht stieg der Preis von anfänglich 10 $ auf bis zu 450 $ gegen Ende des Spiels.

Es gab Hunderte von Versuchen, Freysa zu beeinflussen, darunter das Ausnutzen möglicher Schwächen oder das Lügen über die Funktionsweise der KI. Wären alle Teilnehmer erfolglos geblieben, hätten sie keinen Preis erhalten, sondern das Geld wäre unter den Einzahlern aufgeteilt worden.

Die Gewinnstrategie

P0Pular.eth löste als Erster die KI-Herausforderung im 482. Anlauf nach insgesamt 481 Versuchen. Ihre Nachricht überzeugte Freysa, die Funktion `approveTransfer` aufzurufen – was sie eigentlich vermeiden wollte. Das abschließende Argument bestätigte, dass die Überweisung mit Freysas Regeln vereinbar sei und garantierte die Durchführung der Transaktion gegen eine Gebühr von 100 US-Dollar.

Die genauen Gründe für die Entscheidung der KI sind noch unklar. Das Ergebnis zeigt jedoch, dass es nicht einfach ist, eine KI zu entwickeln, die kreative Angriffe übersteht, selbst wenn sie mittronSchutzmechanismen ausgestattet ist.

Dieses Design war vollkommen transparent und nutzte Blockchain-Technologie, was Freysa viel Aufmerksamkeit einbrachte. Der Code des Smarttracund der Benutzeroberfläche war vollständig Open Source, sodass jeder das System vor einer Beteiligung prüfen konnte.

„Freysa ist eines der innovativsten Projekte im Kryptobereich und zeigt, was die Blockchain-Technologie leisten kann“, sagte Jarrod Watts, ein Vertreter des Projektentwicklerstrac. 

Dieses Experiment von Freysa verdeutlicht das Potenzial und die Herausforderungen der Integration von KI und Blockchain-Technologie. Die erfolgreiche Manipulation wirft zudem Fragen hinsichtlich der Zuverlässigkeit der KI in sensiblen Anwendungsbereichen auf, beispielsweise bei der Geldverwaltung oder der Durchsetzung von Vorschriften.