FSB fordert agentische KI-Kontrollen im Finanzbereich angesichts eines starken Wachstumsschubs bei der Einführung

Der Financial Stability Board veröffentlichte am Mittwoch, dem 10. Juni, einen Bericht, in dem es schärfere Kontrollen für agentische KI-Systeme im Finanzsektor fordert. Das FSB führte Risiken durch autonome KI an, die sich mit großer Geschwindigkeit materialisieren können, darunter nicht autorisierte Handlungen, Datenlecks und Störungen in verbundenen Systemen. Die Leitlinien reagieren auf die beschleunigte Einführung von KI, die in der Lage ist, Aufgaben zu planen, zu begründen und auszuführen – bei nur begrenzter menschlicher Aufsicht – über Bereiche hinweg, darunter Betrugserkennung, Kundenservice und Back-Office-Funktionen.

Berichte aus dem Finanzsektor: 52% aktive Einführung von agentischer KI

Laut einer Umfrage des Cambridge Centre for Alternative Finance meldeten 52% der Befragten aus dem Finanzsektor eine aktive Einführung von agentischer KI. Davon skalieren oder transformieren 23% ihre Abläufe, während 29% agentische Funktionen testen. Agentische KI bezeichnet Systeme, die Aufgaben mit begrenzter menschlicher Aufsicht planen, begründen und ausführen können.

Aufsichtsbehörden und globale Standardisierungsgremien haben seit der Veröffentlichung von Mythos durch Anthropic die Warnungen vor KI-Risiken verstärkt, die Experten als potenziell erhebliche Cybersecurity-Herausforderungen für die Bankenbranche ansehen.

FSB identifiziert Risiken durch Tempo und Autonomie in KI-Systemen

Der Bericht des FSB erklärte, autonome KI bringe Risiken mit sich, die sich „mit großer Geschwindigkeit materialisieren“ könnten. Das Standard-Gremium warnte, dass KI-Agenten Handlungen verfolgen könnten, die von den Absichten der Unternehmen abweichen, ohne dass das Personal dies bemerkt oder schnell eingreifen kann. Der Bericht stellte fest: „KI-Agenten stellen eine besondere Herausforderung für die menschliche Aufsicht dar.“

Zu den identifizierten Risiken zählen die Möglichkeit nicht autorisierter oder illegaler Handlungen, Datenlecks sowie Störungen in verbundenen Systemen.

Vorgeschlagene Schutzmaßnahmen umfassen Schwellenwerte für menschliche Genehmigung und eine Feedback-Frist

Das FSB legte eine Reihe vorgeschlagener „bewährter Verfahren“ in unverbindlichen Leitlinien vor, die bis zum 22. Juli zur Rückmeldung offen sind. Die Empfehlungen fordern Finanzunternehmen auf, klare Grenzen für die KI-Nutzung zu definieren und Schutzmaßnahmen einzubetten.

Zu den vorgeschlagenen Maßnahmen gehören Grenzen dafür, was KI-Agenten tun dürfen, sowie Anforderungen für eine menschliche Genehmigung bei risikoreichen Aktionen, etwa bei Finanztransaktionen oberhalb bestimmter Schwellen. Das FSB schlug außerdem vor, dass Unternehmen HR-Kontrollen und Prozesse so anpassen sollten, dass KI-Agenten wie „synthetische Mitarbeiter“ behandelt werden.

FAQ

Was hat das Financial Stability Board am 10. Juni veröffentlicht?

Das Financial Stability Board veröffentlichte am Mittwoch, dem 10. Juni, einen Bericht, in dem es schärfere Kontrollen für agentische KI-Systeme im Finanzsektor fordert. Der Bericht skizzierte vorgeschlagene „bewährte Verfahren“, darunter Grenzen für die Aktionen von KI-Agenten sowie Anforderungen an die menschliche Genehmigung für risikoreiche Aufgaben.

Wie weit verbreitet ist agentische KI im Finanzsektor?

Laut einer Umfrage des Cambridge Centre for Alternative Finance meldeten 52% der Befragten aus dem Finanzsektor eine aktive Einführung von agentischer KI. Davon skalieren oder transformieren 23% ihre Abläufe, während 29% agentische Funktionen testen. Agentische KI wird für Betrugserkennung, Kundenservice und Back-Office-Funktionen eingesetzt.