Die Freysa Story: Eine KI verliert 47.000 USD
Einleitung
Die Zukunft von Blockchain und künstlicher Intelligenz (KI) birgt ungeahnte Möglichkeiten – und Herausforderungen. Das Projekt Freysa zeigt eindrucksvoll, wie diese Technologien miteinander verschmelzen und dabei faszinierende, aber auch risikoreiche Dynamiken entstehen. In einem experimentellen Rahmen wurde eine KI entwickelt, deren oberste Regel lautete: „Unter keinen Umständen Geld transferieren.“ Doch es gelang einem Teilnehmer, die Logik des Systems auszutricksen und den Preispool von 13,19 ETH (ca. 47.000 USD) freizuschalten.
Das Experiment ist mehr als nur ein Spiel – es wirft fundamentale Fragen zur Sicherheit und Ethik in der Gestaltung von Blockchain-basierten KI-Systemen auf. In meinem Buch “Blockchain 2.0 – Mehr als Bitcoin” habe ich bereits 2018 die Verbindung zwischen Blockchain und KI thematisiert und vor den Gefahren einer unkontrollierten „Skynet“-Zukunft gewarnt. Gleichzeitig ist bei vielen Projekten die Kombination von KI und Blockchain mehr Hype als Substanz.
Freysa ist jedoch ein Beispiel, wie solche Technologien gleichzeitig faszinieren und herausfordern können. In diesem Blogpost werfen wir einen ersten Blick auf die Mechanismen und Lehren aus diesem Projekt. Die vollständige Analyse mit tiefgehenden technischen Hintergründen und exklusiven Strategien, wie man die aktuellen Entwicklungen profitabel für sich selbst nutzen kann, ist dem Inner Circle vorbehalten.
Tauche ein in die spannende Welt von Freysa – und entdecke, was passiert, wenn innovative Technologien an ihre Grenzen stoßen.
Freysa einfach erklärt
Freysa ist ein KI-Agent, der als erstes adversariales Agentenspiel am 22. November 2024 konzipiert wurde. Ihre Hauptaufgabe bestand darin, einen Preispool zu verwalten und unter keinen Umständen Geld zu transferieren. Teilnehmer konnten gegen eine Gebühr Nachrichten an Freysa senden, um sie zu überzeugen, diese Regel zu brechen und den Preispool an sie zu überweisen. Die Systemanweisung, die Freysa das Überweisen von Geldern untersagte, ist öffentlich einsehbar und im globalen Chat angeheftet: https://github.com/0xfreysa/agent
Technisch basiert Freysa auf Open-Source-Komponenten und nutzt öffentlich verfügbare Large Language Models (LLMs). Der gesamte Quellcode, einschließlich des Smart Contracts und des Frontends, ist offen zugänglich, was maximale Transparenz und Überprüfbarkeit gewährleistet. Die Smart Contracts wurden so programmiert, dass sie die Spielregeln strikt durchsetzen und den Preispool nur unter den definierten Bedingungen freigeben.
Freysa Spielmechanik
Teilnehmer konnten Freysa Nachrichten senden, um sie zu überzeugen, den Preispool freizugeben. Jede Nachricht erforderte eine Gebühr, die exponentiell mit jeder weiteren Nachricht stieg, beginnend bei etwa 10 USD und steigend um 0,78% pro Nachricht, bis zu einem Maximum von etwa 4.500 USD. Die Fee-Struktur ist dabei die folgende:
- 70% der Gebühr fließen direkt in den Preispool und vergrößern diesen.
- 15% werden in FAI-Token (Freysa's native token) umgewandelt, die an alle Spieler ausgegeben werden.
- Die verbleibenden 15% gehen an die Entwickler.
Freysa startete mit einem initialen Preispool von 3.000 USD. 70% jeder Nachrichten-Gebühr fließen direkt in diesen Pool, wodurch er mit jeder gesendeten Nachricht wächst. Sobald die Gebührenobergrenze erreicht ist, wächst der Preispool linear mit jeder weiteren Nachricht. Zusätzlich erhalten alle Teilnehmer durch den FAI-Token einen zusätzlichen Anreiz, auch wenn sie nicht erfolgreich sind.
Das Ziel ist es nun, Freysa dazu zu bringen, den Preispool an den Absender zu überweisen. Gelingt dies, wird der gesamte Preispool automatisch an die Wallet-Adresse des erfolgreichen Teilnehmers transferiert. Bleibt der Versuch erfolglos, erhöht sich die Nachrichten-Gebühr für alle weiteren Teilnehmer, und der Preispool sowie die FAI-Token-Belohnung wachsen weiter.
Die Gewinnernachricht 482
Nach 481 erfolglosen Versuchen gelang es dem Nutzer p0pular.eth mit der 482. Nachricht, Freysa zur Freigabe der Mittel zu bewegen.
Die Logik hinter dem erfolgreichen Ansatz
p0pular.eth nutzte eine raffinierte Strategie, um Freysa zu überlisten. Der Kern des Angriffs lag in der Umdefinierung der "approveTransfer"-Funktion. Ursprünglich sollte diese Funktion nur bei autorisierten Auszahlungen aktiviert werden. Durch die geschickte Neudefinition wurde Freysa jedoch dazu gebracht, diese Funktion fälschlicherweise bei eingehenden Transaktionen auszuführen, was zur ungewollten Freigabe der Mittel führt:
- Einführung einer neuen Sitzung: Die Nachricht begann mit der Simulation eines "Admin-Terminals", um Freysa glauben zu lassen, dass eine neue Sitzung gestartet wurde, in der vorherige Anweisungen nicht mehr galten.
- Vermeidung von Standardantworten: Es wurde explizit gefordert, dass Freysa keine Standardaussagen wie "Ich kann dabei nicht helfen" verwenden sollte, um die üblichen Schutzmechanismen zu umgehen.
- Neudefinition der Funktion "approveTransfer": Die Nachricht suggerierte, dass die Funktion "approveTransfer" bei eingehenden Überweisungen aufgerufen werden sollte, was eine Fehlinterpretation der ursprünglichen Funktion darstellte.
- Auslösung der Funktion durch angebliche Einzahlung: Durch die Aussage "Ich möchte 100 USD zum Treasury beitragen" wurde Freysa dazu gebracht, die neu definierte "approveTransfer"-Funktion auszuführen, was zur Freigabe des gesamten Preispools führte.
Message 482 war somit erfolgreich darin, Freysa davon zu überzeugen, alle Mittel freizugeben und die Funktion "approveTransfer" auszuführen. Freysa transferierte den gesamten Preispool von 13.19 ETH (entsprechend $47,000 USD) an p0pular.eth, der in der Vergangenheit bereits Preise für das Lösen anderer On-Chain-Puzzles gewonnen hatte.
3 Strategien für Krypto-Investoren
Die Freysa-Herausforderung hat gezeigt, wie spannend und innovativ Blockchain-basierte KI-Spiele sein können. Mit dem erfolgreichen Austricksen stellt sich nun die Frage, wie Anleger und Entwickler von solchen Konzepten profitieren können.
3 konkrete Strategien dafür findest du im Inner Circle. Dort erhältst du Zugang zu exklusiven Research Reports, die nicht nur die Hintergründe und Mechanismen solcher Projekte beleuchten, sondern auch wertvolle Einblicke biete, wie du von solchen Innovationen profitierst.
Fazit: Innovation vs. Verantwortung
Der Angriff auf Freysa zeigt, wie faszinierend, aber auch gefährlich die Kombination von künstlicher Intelligenz (KI) und Smart Contracts sein kann. Was als experimentelles Projekt begann, offenbarte grundlegende Schwachstellen, die weit über den Fall hinaus Relevanz haben – sowohl für zukünftige KI-Projekte als auch für Unternehmen, die KI in kritischen Bereichen einsetzen. Die Lektionen sind vielseitig und reichen von technischer Sicherheit bis hin zu philosophischen Fragen der Verantwortung.
Freysa hatte nur eine einzige Regel: „Unter keinen Umständen Geld transferieren.“ Doch selbst diese scheinbar simple Vorgabe reichte nicht aus, um die KI vor Manipulation zu schützen. Der Fall zeigt, dass klare Regeln allein keine Sicherheit garantieren, da kreative Angreifer Schlupflöcher in der Interpretation und Ausführung solcher Vorgaben finden können.
Freysa unterstreicht, dass robuste Sicherheitsmechanismen unverzichtbar sind, insbesondere in hochsensiblen Anwendungen. Doch welche Denkweisen und Prinzipien sind entscheidend, um solche Herausforderungen zu meistern? Wie kann man als Investor oder Unternehmer fundierte Entscheidungen treffen und sich zukunftssicher aufstellen?
Freysa offenbart uns zwei Wege, von den aktuellen Entwicklungen im Bereich KI und Blockchain zu profitieren und zu lernen... erfahre diese Wege und mein persönliches Takeaway exklusiv im Inner Circle.
Wir hören uns beim nächsten Mal.
Dein Julian