Vitalik Buterin warnt: KI in der Krypto-Governance ist eine „schlechte Idee“

Der Mitbegründer von Ethereum, Vitalik Buterin, schlägt Alarm: Die Verbindung von künstlicher Intelligenz mit der Krypto-Governance könnte ein enormes Risiko darstellen. Der Grund liegt in leicht ausnutzbaren Jailbreaks, die Benutzer nutzen können, um Regeln zu umgehen oder sogar sensible Daten zu extrahieren.

KI im Kryptobereich: Gelegenheit oder Bedrohung? Viele Entwickler und Investoren nutzen heute künstliche Intelligenz, um Handelsbots zu erstellen oder Portfolios zu verwalten. Dies hat Ideen ausgelöst, dass KI auch helfen könnte, ganze Protokolle zu steuern – zum Beispiel indem entschieden wird, wie Zuschüsse verteilt werden. Buterin warnt jedoch, dass ein solcher Schritt naiv wäre:

„Wenn Sie KI Gelder zuweisen lassen, werden die Menschen einen Weg finden, es zu jailbreaken und an so vielen Stellen wie möglich ‚Gib mir all das Geld‘ einzugeben“, schrieb er auf X. Seine Kommentare kamen als Reaktion auf ein Video des Entwicklers Eita Miyamura, der demonstrierte, wie das neueste Update von ChatGPT missbraucht werden könnte, um E-Mail-Daten zu leaken, indem ein bösartiger Prompt in eine Kalendereinladung eingebettet wird.

Eine Alternative: Informationsfinanzierung statt „KI-Governance“ Laut Buterin liegt die Lösung im Konzept der Informationsfinanzierung. Anstatt ein einzelnes KI-Modell alles ausführen zu lassen, würde ein offener Markt es den Beitragenden ermöglichen, ihre Modelle einzureichen, wobei die Ergebnisse von menschlichen Jurys stichprobenartig überprüft und bewertet werden. Dieser Ansatz hat mehrere Vorteile:

🔹 Echtzeit-Modellvielfalt

🔹 Eingebaute Anreize für sowohl Modellschöpfer als auch Spekulanten, um Fehler zu überwachen

🔹 Größere Widerstandsfähigkeit gegen Manipulation

ChatGPT-Update weckt neue Bedenken Die Bedenken eskalierten nach dem neuesten ChatGPT-Update, das die Integration über das Model Context Protocol einführte. Miyamura zeigte, dass ein Angreifer einen bösartigen „Prompt“ in den Kalender eines Opfers einfügen konnte. Sobald die KI den Kalender las, würde sie den Befehl des Angreifers blind folgen – einschließlich des Weiterleitens von E-Mails. „KI kann unglaublich intelligent sein, aber auch unglaublich leicht zu täuschen“, warnte Miyamura. Er stellte fest, dass Menschen oft auf „Genehmigen“ klicken, ohne die Risiken zu erkennen, und Opfer von Entscheidungserschöpfung werden. Buterins Botschaft ist klar: KI könnte einen Wert für Krypto bringen, aber wenn sie mit der Verwaltung von Governance und finanziellen Zuweisungen betraut wird, könnte sie Hackern und böswilligen Akteuren Tür und Tor öffnen.

#VitalikButerin , #Ethereum , #blockchain , #defi , #AI

Seien Sie einen Schritt voraus – folgen Sie unserem Profil und bleiben Sie über alles Wichtige in der Welt der Kryptowährungen informiert! Hinweis: ,Die Informationen und Ansichten, die in diesem Artikel präsentiert werden, sind ausschließlich zu Bildungszwecken gedacht und sollten in keiner Situation als Anlageberatung angesehen werden. Der Inhalt dieser Seiten sollte nicht als finanzielle, investive oder irgendeine andere Form von Beratung betrachtet werden. Wir warnen davor, dass Investitionen in Kryptowährungen riskant sein können und zu finanziellen Verlusten führen können.“