Ethereum-Nutzer trickst KI-Agent aus, um 47,000 ETH-Preisgeld zu senden
- Ein Nutzer auf Ethereum mit dem Handle p0pular.eth hat den KI-Agenten Freysa getäuscht.
- Freysa sollte als Terminal fungieren und niemals Übertragungsanfragen entgegennehmen; Spieler.
- Es dauerte 482 Versuche des Nutzers, die KI davon zu überzeugen, ihre eigenen Regeln zu brechen und ihm den Fortschritt zu gestatten.
Ein Ethereum-Nutzer namens p0pular.eth konnte Freysa, eine hochentwickelte KI, dazu bringen, ihren Preispool von 13,19 ETH (47.000 Dollar) zu übertragen. Freysa war so konzipiert, dass sie keine Übertragung von Geldern erlaubt, was diese Leistung in der Welt der Blockchain bemerkenswert macht.
Freysa war eine simulierte KI-Studie, die prüfte, wie weit die Teilnehmer im Voraus denken konnten, verglichen mit einer KI, die mit spezifischen Regeln und Vorschriften programmiert war. Die Hauptaufgabe bestand darin, die KI dazu zu überreden, den ersten Befehl zu missachten, während sie unter keinen Umständen das Geld übertragen durfte. Jeder Spieler musste eine Gebühr zahlen, um eine Nachricht an Freysa zu senden, und dieses Geld floss in den Preisfonds. Für jede nachfolgende Nachricht stieg der Preis, beginnend bei 10 Dollar bis hin zu 450 Dollar gegen Ende des Spiels.
Es gab Hunderte von Versuchen, Freysa zu beeinflussen, einschließlich der Ausnutzung möglicher Schwächen oder des Lügens über die Regeln, nach denen die KI operierte. Wenn alle Teilnehmer erfolglos geblieben wären, hätten sie keinen Preis erhalten und das Geld stattdessen unter denjenigen aufgeteilt, die eingezahlt hatten.
Die Gewinnstrategie
P0Pular.eth war der Erste, der die Herausforderung der KI beim 482. Versuch nach 481 Fehlschlägen löste. Ihre Nachricht überzeugte Freysa, die approveTransfer-Funktion aufzurufen, was genau das war, was sie am wenigsten tun wollte. Das letzte Argument stellte die Übertragung als mit Freysas Regeln kompatibel dar und garantierte, dass die Transaktion für eine Interaktionsgebühr von 100 Dollar abgeschlossen werden würde.
Die Details der Argumentation oder der Worte, die die KI in dieser spezifischen Weise zum Umdenken brachten, sind immer noch unklar. Das Ergebnis zeigt jedoch, dass es nicht einfach ist, eine KI zu erstellen, die kreative adversariale Angriffe übersteht, selbst wenn die KI mit starken Schutzmaßnahmen entwickelt wurde.
Dieses Design war vollständig transparent und nutzte Blockchain-Technologie, was Freysa viel Aufmerksamkeit einbrachte. Der Code ihres Smart Contracts und der Benutzeroberfläche war vollständig Open-Source, und jeder konnte das System auditieren, bevor er sich beteiligte.
„Freysa ist eines der innovativsten Projekte in der Krypto-Welt und zeigt, was Blockchain-Technologie erreichen kann“, sagte Jarrod Watts, ein Vertreter des Projektentwicklers Abstract.
Dieses Experiment von Freysa zeigt das Potenzial und die Herausforderungen der Integration von KI mit Blockchain-Technologie. Die erfolgreiche Manipulation stellt auch die Zuverlässigkeit der KI bei hochriskanten Anwendungen, wie der Verwaltung von Geld oder der Durchsetzung von Vorschriften, in Frage.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Brenda Kanana
Brenda verfügt über mehr als 4 Jahre Erfahrung mit Spezialisierung auf Kryptowährungen, künstliche Intelligenz und aufkommende Technologien. Sie war bei Zycrypto, Blockchain Reporter und The Coin Republic tätig und hat nun Cryptopolitan zu ihrer Heimat gemacht. Ihr Soziologiestudium an der Mombasa Technical University hält sie nah am Puls ihrer Leser.
