Consumer Duty und KI im britischen Finanzsektor

Die Consumer Duty der FCA erhöht die Beweislast für automatisierte Entscheidungen. Jede Entscheidung, die einen Privatkunden betrifft, muss nun im Nachhinein rekonstruierbar und gegenüber vier Outcomes belastbar sein: Produkte und Dienstleistungen, Preis und Preis-Leistung, Kundenverständnis sowie Kundenbetreuung. Ein Modell, das nicht zeigen kann, warum es so entschieden hat, wie es entschieden hat, ist ein Conduct-Risk-Risiko, so treffsicher es auch scoren mag.

Die Duty bringt keinen Modellstandard und keine Paragrafennummer mit sich, die Sie in einem Design-Review zitieren könnten. Sie ist als Prinzipien und übergreifende Regeln formuliert und sagt Ihnen daher nie, welche Log-Zeilen Sie aufbewahren müssen. Das ist eine Engineering-Entscheidung. Unter dem alten Regime wurde ein Pricing-Modell oder eine Ablehnungs-Engine vor allem daran gemessen, ob sie funktionierte. Unter der Duty wird sie an dem Ergebnis gemessen, das sie für eine namentlich benannte Person an einem bestimmten Datum erzeugt hat, und daran, ob das Unternehmen belegen kann, dass dieses Ergebnis gut war. Treffsicherheit ist notwendig und nicht länger hinreichend. Die meisten Fehler, die mir begegnen, sind Engineering-Fehler, die als Governance-Lücken verkleidet sind.

Was die Duty ein Modell tatsächlich nachweisen lässt

Die übergreifenden Regeln sind der Teil, der greift: in gutem Glauben handeln, vorhersehbaren Schaden vermeiden und Kunden befähigen, ihre finanziellen Ziele zu verfolgen. Übersetzen Sie diese in Fragen, die Sie an ein laufendes System richten können.

• Was waren für eine gegebene Entscheidung die exakten Input-Features, die Modellversion und der zu diesem Zeitpunkt geltende Schwellenwert? Das ist Point-in-Time-Korrektheit. Wenn Ihr Feature Store aktuelle Werte ausliefert, Sie historische aber nicht erneut abspielen können, können Sie die Frage nicht beantworten.
• War irgendein Input ein Proxy für etwas, das Sie nicht direkt einpreisen würden? Eine Postleitzahl als Stellvertreter für die ethnische Herkunft oder ein mit dem Alter korreliertes Geräte-Signal erzeugt vorhersehbaren Schaden, selbst wenn in den Trainingsdaten kein geschütztes Merkmal auftaucht.
• War das Ergebnis nachteilig: Gibt es einen konkreten Grund, auf den der Kunde reagieren kann? Das Consumer-Understanding-Outcome und die Adverse-Action-Logik überschneiden sich hier, und eine generische Offenlegung genügt keinem von beiden.

Nichts davon wird durch eine Model Card oder einen Fairness-Report erfüllt, der einmal beim Deployment läuft. Die Duty ist eine fortlaufende Verpflichtung, daher muss der Nachweis kontinuierlich von der Pipeline erzeugt werden, statt von Hand zusammengestellt zu werden, wenn ein Review ansteht.

Faire Preis-Leistung ist eine Lebenszyklus-Frage

Preis und Preis-Leistung ist der Bereich, in dem KI das größte Exposure schafft, denn dynamisches und personalisiertes Pricing ist genau das, wofür moderne Systeme gebaut sind. Die Regel lautet, dass der Preis im angemessenen Verhältnis zum Nutzen stehen muss, den der Kunde erhält. Ein Modell, das auf Marge optimiert, lernt sich selbst überlassen, denjenigen am meisten zu berechnen, die am wenigsten dazu neigen, den Markt zu vergleichen. Dabei funktioniert nichts fehlerhaft. Das Modell tut genau das, wofür es trainiert wurde, und die Duty behandelt dieses Ergebnis als Schaden.

Engineering für faire Preis-Leistung bedeutet, das Value Assessment in den Entscheidungspfad einzubauen, statt es vierteljährlich zu überprüfen:

• Segmentieren und überwachen Sie Ergebnisse nach Kohorten, einschließlich Price Walking bei Verlängerung, gegebenenfalls Schadenquoten und der Differenz zwischen bestem und schlechtestem Preis, der bei materiell vergleichbarem Risiko angeboten wird.
• Setzen Sie eine belastbare Obergrenze für die Personalisierung. Wenn das Modell zwei nahezu identische Kunden sehr unterschiedlich bepreisen kann, brauchen Sie einen dokumentierten Grund für die Spreizung oder einen Cap, der sie schließt.
• Achten Sie auf Drift, die den Wert unbemerkt aushöhlt. Ein Retention-Modell, das auf aktuellem Verhalten nachtrainiert wird, kann anfangen, Loyalität zu bestrafen, ohne dass jemand eine Geschäftsregel anrührt. Hier verdient sich das Drift-Monitoring seinen Platz als Conduct-Control, nicht nur als Kontrolle der Vorhersagegenauigkeit.

Die Unternehmen, die sich schwertun, sind jene, die beim Launch ein Value Assessment durchgeführt, es abgelegt und das Modell weiterlernen gelassen haben. Das Assessment veraltet in dem Moment, in dem das Modell aktualisiert wird.

Bauen Sie den Nachweispfad in die Pipeline ein

Die Duty stellt eine Anforderung, die sich sauber auf Data Engineering abbilden lässt: Reproduzierbarkeit. Wenn ein Review oder eine Beschwerde eintrifft, müssen Sie die Entscheidung präzise rekonstruieren, und das ist nur möglich, wenn die Pipeline von Anfang an dafür ausgelegt wurde.

• Versionieren Sie alles, was eine Entscheidung berührt, gemeinsam: das Modell-Artefakt, die Feature-Definitionen, die Schwellenwert-Konfiguration und den Input-Snapshot. Ein Entscheidungsdatensatz sollte auf alle vier per unveränderlicher Referenz verweisen.
• Schützen Sie sich vor Lookahead und Leakage in den Features, die das Outcome-Monitoring speisen, nicht nur im Training. Wenn Ihr Fair-Value-Dashboard ein Feature nutzt, das mit Informationen berechnet wurde, die zum Entscheidungszeitpunkt nicht verfügbar waren, erzählt Ihnen das Dashboard eine beruhigende Lüge.
• Halten Sie die Lineage von der Rohquelle bis zum ausgelieferten Feature nach, damit Sie, wenn Entity Resolution zwei Kundendatensätze zusammenführt, zeigen können, dass die Entscheidung den richtigen verwendet hat. Falsch zugeordnete Entscheidungen sind ein schneller Weg zu einem Foreseeable-Harm-Befund.
• Geben Sie dem Audit Trail einen Aufbewahrungshorizont, der zum Produkt passt, nicht den Default der Log-Rotation. Eine Hypothekenentscheidung muss möglicherweise noch Jahre später erklärbar sein.

Die Kosten sind hier real und fallen früh an. Die nachträgliche Ausstattung eines Systems, das auf die Auslieferung aktueller Scores ausgelegt wurde, mit Point-in-Time-Rekonstruktion ist teuer und oft nur teilweise möglich. Wird es zum Design-Zeitpunkt getan, läuft es auf eine Schema-Entscheidung hinaus und auf die Disziplin, was Sie bei jeder Entscheidung protokollieren.

Ergebnisse überwachen, nicht nur Modellmetriken

Das letzte Element trennt eine regelkonforme Papierübung von einer funktionierenden Kontrolle. Die Consumer Duty macht einen Senior Manager für Ergebnisse verantwortlich, daher muss das Monitoring Ergebnisse messen, zu denen dieser Manager befragt werden kann. AUC und Precision sagen niemandem, ob Kunden ein gutes Geschäft gemacht haben.

Bauen Sie das Monitoring rund um Ergebnissignale auf: Beschwerdequoten nach Kohorte, Ablehnungsgründe, die sich in einer Weise häufen, die auf einen Proxy hindeutet, den Anteil der Kunden, die anderswo in Ihrem eigenen Bestand ein besseres Ergebnis hätten erzielen können, und Support-Friktion wie Kunden, die einen Straight-Through-Process abbrechen und nie zurückkehren. Setzen Sie ein False-Positive-Budget für jede Kontrolle, die einen Kunden blockiert oder markiert. Ein übereifriges Betrugs- oder Affordability-Modell erzeugt seinen eigenen Schaden, indem es Menschen ausschließt, die hätten bedient werden sollen.

Behandeln Sie jedes dieser Signale als Kontrolle mit einem Verantwortlichen, einem Schwellenwert und einem Eskalationspfad. Der Sinn der Duty ist nicht, einen Report zu produzieren. Er ist, ein schlechtes Ergebnis zu erwischen, während es hundert Kunden trifft, statt nachdem es zehntausend erreicht hat und zum Quartalsende in den Beschwerdedaten aufgetaucht ist.