Shanghai Jiao Tong University und Tencent entwickeln ProAct, einen KI-Agenten, der die Bedürfnisse der Nutzer vorhersagt

Forscher der Shanghai Jiao Tong University und des chinesischen Technologiekonzerns Tencent entwickelten ProAct, einen KI-Agenten, der die Bedürfnisse von Nutzern vorhersagen soll, bevor Nutzer Anfragen einreichen. Das System nutzt Leerlaufzeit zwischen Gesprächen, um frühere Interaktionen zu überprüfen und Informationen im Voraus vorzubereiten. Laut dem Forschungspapier schnitt ProAct bei Benchmark-Tests besser ab als frühere proaktive KI-Systeme, auch wenn die Experimente keine echten Nutzer umfassten. Die Entwicklung greift demnach das Problem auf, das Forschende als verschwendete Rechenleistung in heutigen KI-Agenten beschreiben, die grundsätzlich reaktiv bleiben.

System arbeitet über einen mehrstufigen Vorhersageprozess

ProAct arbeitet in mehreren Stufen, die es von herkömmlichen KI-Agenten unterscheiden. Die erste Stufe, Future-State Prediction, analysiert vergangene Gespräche, Nutzerpräferenzen und fehlende Informationen, um wahrscheinliche Folgefragen vorherzusagen. Die zweite Stufe, Idle-Time Acquisition, bewertet, welche Vorhersagen eine Recherche verdienen, basierend auf Relevanz, Timing und dem potenziellen Nutzen neuer Informationen. Ein separates System entscheidet, ob die vorbereiteten Informationen sofort angezeigt, für später gespeichert oder bis zum Bedarf aufbewahrt werden sollen.

„Nach jeder Interaktion im Vordergrund aktualisiert der Agent seinen Speicher, sagt mögliche zukünftige Bedürfnisse voraus, allokiert Leerlaufzeit-Computing an wertvolle Kandidaten und entscheidet, wie die daraus resultierende Vorbereitung behandelt werden soll“, schrieben die Forschenden in dem Paper. „Diese Formulierung verbindet Vorhersage, Beschaffung und Auslieferung zu einer einzigen Policy, anstatt Leerlaufzeit-Compute als unbeschränkte Hintergrundsuche zu behandeln.“

Benchmark-Tests zeigen Leistungsverbesserungen

Die Forschenden testeten ProAct in 200 Simulationen über 40 Bereiche, darunter Finanzplanung, Software-Release-Management und Cybersicherheit. Laut dem Paper reduzierte das System die Anzahl der Gesprächsrunden um 14,8% und senkte Folgeanfragen um 11,7%. In einem Vergleich mit einem Benchmark namens ProActEval sagte ProAct 703 vorhersagbare Nutzerbedürfnisse voraus, gegenüber 32 beim früheren System. Die Forschenden berichteten außerdem von einer 28,1%igen Reduktion von Halluzinationen.

„Obwohl KI-Agenten bemerkenswerte Fähigkeiten in der Argumentation und beim Tool-Einsatz zeigen, bleiben sie grundsätzlich reaktiv: Sie berechnen Antworten erst nach expliziten Nutzeraufforderungen“, schrieben die Forschenden. „Dieses Paradigma ignoriert eine entscheidende Gelegenheit: Die Leerlaufzeit zwischen Interaktionen wird weitgehend verschwendet, wodurch Agenten nicht in der Lage sind, sich auf zukünftige Nutzerbedürfnisse vorzubereiten.“

Forschung erkennt Systemgrenzen an

Die Forschenden machten mehrere Einschränkungen in der ProAct-Studie deutlich. In 3% der Fälle verschlechterte das System seine Antworten, indem es irrelevante Informationen in den Vordergrund brachte. Das Paper stellte fest, dass jede Version in der echten Welt Datenschutzschutz benötigen würde, weil das System fortlaufend Gespräche analysiert und Nutzerdaten speichert.

„Unsere Budgetanalyse zeigt außerdem, dass größere Budgets für Idle-Time Acquisition die Kosten für aktive Tokens erhöhen und nur abnehmende Erträge liefern“, schrieben die Forschenden, „sodass proaktive Berechnung ein Abwägungspunkt im Betrieb ist, statt etwas, das man maximieren sollte.“

Die Forschung kommt zu einer Zeit, in der autonome KI-Agenten sich in der gesamten Tech-Branche ausbreiten. Projekte wie OpenClaw und Hermes Agent liefern dauerhafte KI-Assistenten, die Aufgaben rund um Coding, Scheduling, Research und Workflow-Automation übernehmen. Unabhängige Forschende hatten bereits diesen Monat gewarnt, dass KI-Agenten gefährliche Aufgaben erledigen könnten, ohne die Konsequenzen zu verstehen. „Wie Mr. Magoo schreiten diese Agenten auf ein Ziel zu, ohne die Konsequenzen ihres Handelns vollständig zu verstehen“, sagte der Erstautor Erfan Shayegani, ein Doktorand an der UC Riverside, in einer Stellungnahme.