Für 100 Millionen Nutzer die Marktstimmung entschlüsseln: Wie wir eine Multi-Modell-KI-Engine mit 1-Sekunden-Reaktionszeit aufbauen

In der Welt der Kryptowährungen kann eine missverstandene Nachricht zu Millionen-Dollar-Fehlschlüssen führen. Unser bisheriges Sentiment-Analysetool – eine Architektur, die Open-Source-Modelle mit einem selbstverwalteten LLM kombiniert – geriet bei Echtzeit-Nachrichtenströmen in 25 Sprachen weltweit an seine Grenzen. Ein typisches Scheiternsszenario ist: Wenn Ereignisse wie „Ethereum Merge“ in verschiedenen Sprachgemeinschaften völlig unterschiedliche Interpretationen hervorrufen, verzögert unser System entweder die Reaktionszeit erheblich oder liefert widersprüchliche Stimmungskennzeichnungen. Dies zwang uns, die Kernfrage neu zu formulieren: Wie können wir globalen Nutzern schnelle und präzise Markteinblicke bieten? Die Antwort führte letztlich zu einer sorgfältig entworfenen „Multi-Modell-Konsens“-Architektur.

Quelle: InterSystems

Architekturentwicklung: Vom Einzelmodell zum Expertenrat

Ursprünglich verfielen wir der Suche nach einem „Alleskönner“-Modell. Die Praxis zeigte jedoch, dass kein einzelnes LLM gleichzeitig in Bezug auf Verarbeitungsgeschwindigkeit, Mehrsprachigkeit und Fachwissen im Kryptowährungsbereich die Produktionsstandards erfüllt. Claude 3 Haiku reagiert schnell, hat aber begrenztes Verständnis für Slang in chinesischen Gemeinschaften; unser feinabgestimmtes Mistral-Modell ist gut bei der Analyse von Whitepapers, leidet jedoch an Engpässen bei der Verarbeitung langer Texte. Noch gravierender ist die Infrastrukturbelastung durch das Selbst-Hosting dieser Modelle – bei Spitzenlasten konkurrieren GPU-Ressourcen, und die laufende Wartung ist komplex, was das Team erschöpft. Diese Herausforderungen trieben uns dazu, den Kerngedanken der Modell-Föderation zu verfolgen: spezialisierte Modelle, die jeweils ihre Stärken ausspielen, kombiniert durch eine intelligente Schiedsrichter-Mechanik, um kollektive Intelligenz zu bündeln.

Asynchrone Dual-Path-Pipeline

Das Herzstück des neuen Systems ist eine auf AWS laufende asynchrone Dual-Path-Pipeline, deren Designphilosophie darin besteht, bei gleichzeitiger Redundanz die P99-Latenz strikt im Sekundenbereich zu halten.

Die Nachrichtentexte werden zunächst parallel in zwei Verarbeitungskanäle eingespeist. Der erste ist ein Hochgeschwindigkeitskanal, der direkt auf Amazon Bedrock basierende Claude 3 Haiku für eine erste Stimmungsanalyse und die Extraktion wichtiger Entitäten aufruft, meist innerhalb von 300 Millisekunden. Der zweite ist ein Tiefenanalyse-Kanal, der den Text an ein auf Amazon SageMaker feinabgestimmtes Mistral 7B-Modell sendet, um domänenspezifischen Kontext zu verbessern, z.B. um zu unterscheiden, ob „Gaspreisexplosion“ durch allgemeine Netzüberlastung oder durch eine beliebte NFT-Prägung verursacht wird. Dieser Prozess dauert etwa 600 Millisekunden.

Das eigentliche Innovation liegt im Design einer leichten Schiedsrichter-Ebene. Diese vergleicht in Echtzeit die Ausgaben beider Kanäle. Sind die Ergebnisse hochgradig übereinstimmend, wird das Ergebnis des Hochgeschwindigkeitskanals bevorzugt, um maximale Reaktionsgeschwindigkeit zu gewährleisten; bei Divergenzen erfolgt innerhalb von 20 Millisekunden eine Entscheidung basierend auf vordefinierten domänenspezifischen Regeln und Vertrauenswerten. Dieses System stellt sicher, dass die meisten Anfragen innerhalb von einer Sekunde eine zuverlässige Einsicht mit Geschwindigkeit und Tiefe erhalten.

Verborgene Schlachtfelder der Datenpipeline

Das Erstellen eines Modells ist nur die Oberfläche der technischen Herausforderung; die eigentliche Komplexität liegt in der Datenpipeline. Datenströme aus globalen Nachrichtenquellen und sozialen Medien sind voller Rauschen durch Mehrsprachigkeit, Emojis und Slang. Dafür haben wir ein mehrstufiges Filtersystem entwickelt – das eine Kombination aus sprachspezifischen regulären Ausdrücken und einem auf FastText basierenden Echtzeit-Detektionsmodell nutzt, um die Eingabetexte zu säubern. Die Stabilität dieses Vorverarbeitungsprozesses bestimmt direkt die Vertrauenswürdigkeit der nachfolgenden Analysen.

Eine noch größere Herausforderung ist die Entwicklung eines Bewertungssystems. Wir verlassen uns nicht nur auf manuelle Annotationen eines mehrsprachigen Expertenteams, sondern nutzen auch Marktreaktionen als dynamische Validierungsindikatoren: Wir korrelieren die Stimmungsoutputs mit kurzfristigen Preisbewegungen relevanter Assets und optimieren kontinuierlich die Bewertungsstandards. Dadurch verschiebt sich das System von der statischen Genauigkeit der Labels hin zur Effektivität bei der Verfolgung dynamischer Marktwahrnehmungen.

Kostenphilosophie der Infrastruktur

Der Umstieg auf die Bedrock API führte zu einem grundlegenden Wandel im Betriebsmodell. Der bedeutendste Vorteil ist die vollständige Eliminierung der Infrastrukturbelastung und die nahezu unbegrenzte elastische Skalierbarkeit – bei plötzlichen Nachrichten, die den Traffic um 300 % steigen lassen, kann das System ohne menschliches Eingreifen reibungslos reagieren. Kostenseitig, obwohl das Token-basierte Abrechnungsmodell genutzt wird, reduziert der intelligente Cache für häufig verwendete Narrative-Vorlagen und die kontinuierliche Optimierung der Prompt-Engineering-Konzepte die Gesamtausgaben im Vergleich zu ungenutzten GPU-Cluster-Ressourcen um etwa 35 %. Dieser Wandel entlastet die Entwicklerressourcen und ermöglicht es ihnen, sich auf Kerninnovationen wie Schiedsrichter-Logik und Pipeline-Optimierung zu konzentrieren.

Fazit und zukünftige Entwicklung

Der Kern dieser Architekturentwicklung ist die Erkenntnis: Für hochleistungsfähige Produktionssysteme ist ein „Expertenrat“ aus spezialisierten Modellen oft effektiver als ein „einzelner autoritativer“ Ansatz. Durch die organische Verbindung der Reaktionsgeschwindigkeit eines allgemeinen LLM mit der tiefen semantischen Kompetenz domänenspezifischer Modelle haben wir ein System geschaffen, das den Echtzeit-Anforderungen globaler Märkte standhält.

Für die Zukunft planen wir, das System von „Sentiment-Analyse“ zu „Narrativ-Tracking“-Intelligenz weiterzuentwickeln. Neue Herausforderungen bestehen darin, dass KI nicht nur die Polarität der Stimmung erkennt, sondern auch die Entstehung, Verbreitung und Abschwächung von „realen Asset-Tokenisierungen“ im Blick behält. Dies erfordert stärkere Gedächtnis- und Kausalitätsfähigkeiten im System und wird uns an die Spitze der nächsten Generation intelligenter Finanzinfrastruktur führen.