Banken müssen KI-Entscheidungen vermessen

Die Debatte über Künstliche Intelligenz im Bankgeschäft braucht eine neue Kennzahl. Die Verbreitung allein unterscheidet kaum noch zwischen Vorreitern und Nachzüglern. Entscheidend ist, ob ein System nur Informationen sortiert, einen Vorschlag erstellt oder eine Entscheidung über Kredit, Betrugsverdacht oder Kundenbehandlung faktisch selbst trifft.

Mehr als 90 Prozent der direkt von der Europäischen Zentralbank beaufsichtigten Banken haben KI bereits in ihre Abläufe integriert. 85 Prozent nutzen generative KI. 64 Prozent setzen KI zur Abwehr von Betrug und Cyberkriminalität ein. EZB-Bankenaufsichtschefin Claudia Buch nannte diese Werte in einer Rede vom 22. September 2026. Die Grundgesamtheit beschreibt die Veröffentlichung als direkt beaufsichtigte Banken. Eine Fallzahl, den Stichtag der zugrunde liegenden Abfrage und eine einheitliche Definition von „integriert“ nennt sie nicht.

Diese Grenze ist wichtig. Die EZB-Daten belegen die Reichweite der Technik, aber nicht, wie viele Kreditentscheidungen vollautomatisch fallen oder wie häufig Beschäftigte einen Modellvorschlag ändern. Sie quantifizieren auch nicht, ob generative KI im Kundendienst Texte formuliert oder in einer risikorelevanten Entscheidungskette mitwirkt. Die Adoptionsquote ist deshalb ein Ausgangspunkt für die Aufsicht, kein Maß für delegierte Verantwortung.

Eine kleine Stichprobe zeigt die Prozessgrenze

Näher an die tatsächlichen Entscheidungswege kommen die KI-Workshops der EZB aus dem Jahr 2025. Zwischen Mai und August führte die Aufsicht Gespräche mit 13 Banken aus neun europäischen Ländern. Je zehn Institute nutzten KI für Kreditwürdigkeitsprüfungen und für die Betrugserkennung. Die Angaben waren anonymisiert und selbst berichtet. Die EZB bezeichnet sie ausdrücklich als Beobachtung, nicht als aufsichtliche Bewertung. Die Stichprobe lässt sich daher nicht auf alle direkt beaufsichtigten Banken hochrechnen.

Trotzdem zeigt sie eine operative Trennlinie. Beim Kredit-Scoring unterstützten KI-Modelle in der Regel menschliche Entscheider. Nur kleine Privatkredite wurden teilweise automatisiert vergeben. In der Betrugserkennung erzeugten die Modelle Echtzeitwarnungen, die Fachleute anschließend prüften. Keine teilnehmende Bank setzte generative KI für das Kredit-Scoring ein. Stattdessen verwendeten die Institute etablierte Verfahren des maschinellen Lernens.

Auch „Human in the Loop“ bedeutete nicht überall dasselbe. In manchen Fällen beschränkte sich die menschliche Rolle darauf, einem Kunden die Kreditentscheidung auf Nachfrage zu erklären. Eine nominelle Beteiligung ist deshalb noch keine wirksame Kontrolle vor der Entscheidung. Die Aufsicht muss zusätzlich erfassen, wann ein Mensch eingreift, welche Befugnis er besitzt und ob Übersteuerungen dokumentiert werden.

Damit erfasst die EZB zwei sehr unterschiedliche Formen von Automatisierung. Ein Modell kann verdächtige Transaktionen priorisieren, ohne ein Konto zu sperren. Es kann eine Ausfallwahrscheinlichkeit schätzen, ohne den Kreditantrag abzulehnen. Für Kunden ist dieser Unterschied erheblich, denn eine Rangfolge oder Warnung kann noch geprüft werden. Eine automatische Endentscheidung braucht dagegen belastbare Schwellenwerte, dokumentierte Ausnahmen und einen wirksamen Weg zur menschlichen Überprüfung.

Aus Modellrisiko wird auch Anbieterrisiko

Die zweite Aufsichtslücke liegt außerhalb der Bank. Rund zwei Drittel der Banken im Euroraum haben laut Buch Kooperationsvereinbarungen mit externen Anbietern, die häufig außerhalb der EU sitzen. Diese Zahl bezieht sich auf externe Technologie- und Cloud-Beziehungen insgesamt, nicht ausschließlich auf KI-Verträge. Sie darf deshalb nicht als KI-Outsourcingquote gelesen werden.

Die Verbindung ist dennoch direkt. In den EZB-Workshops entwickelten die Institute ihre Modelle überwiegend selbst, ließen sie aber häufig bei Cloud-Anbietern laufen. Ein intern gebautes Modell kann somit fachlich unter Kontrolle der Bank stehen, während Rechenbetrieb, Datenzugriff oder Wiederanlauf von einem externen Dienst abhängen. Bei einem Modell als Dienstleistung kommen Aktualisierungen, proprietäre Schnittstellen und mögliche Unterauftragnehmer hinzu.

An diesem Punkt reicht klassische Modellvalidierung nicht aus. Ein Modell kann statistisch funktionieren und trotzdem ausfallen, wenn sein Hosting-Anbieter gestört ist. Es kann erklärbar sein und dennoch schwer ersetzbar bleiben, weil Datenformate, Schnittstellen oder Bereitstellungsprozesse an einen einzigen Anbieter gebunden sind. Die Bank muss deshalb sowohl die Qualität der Entscheidung als auch die Belastbarkeit der Lieferkette prüfen.

DORA lässt die Verantwortung bei der Bank

Der Digital Operational Resilience Act setzt dafür einen verbindlichen Rahmen. Nach Artikel 28 bis 30 DORA müssen Finanzunternehmen Risiken aus IKT-Drittdienstleistungen in ihr IKT-Risikomanagement integrieren. Sie bleiben für die Einhaltung ihrer Pflichten verantwortlich, auch wenn ein externer Anbieter den Dienst erbringt.

DORA verlangt ein Informationsregister über vertragliche IKT-Beziehungen. Vor einem Vertrag müssen Banken unter anderem Kritikalität, Eignung des Anbieters und Konzentrationsrisiken bewerten. Für kritische oder wichtige Funktionen brauchen sie dokumentierte und getestete Ausstiegspläne. Die Verträge müssen Leistungsniveaus, Datenstandorte, Zugriffs- und Prüfungsrechte sowie Bedingungen für Unteraufträge regeln.

Artikel 29 lenkt den Blick auf Anbieter, die sich nicht leicht ersetzen lassen, und auf mehrere Verträge mit demselben oder verbundenen Dienstleistern. Bei Unterauftragnehmern in Drittstaaten müssen Institute auch lange Lieferketten, Datenschutz und die tatsächliche Durchsetzbarkeit von Recht berücksichtigen. Damit macht DORA aus dem abstrakten Konzentrationsrisiko eine konkrete Prüfpflicht.

Das Regelwerk löst jedoch nicht jede KI-Frage. DORA schützt die digitale Betriebsfähigkeit. Es entscheidet nicht, ob ein Kreditmodell sachgerecht kalibriert ist, bestimmte Kundengruppen benachteiligt oder eine Ablehnung verständlich begründet. Dafür bleiben Modellrisikomanagement, Datenkontrollen, fachliche Validierung und menschliche Aufsicht nötig. Ein belastbarer Kontrollrahmen muss beide Ebenen verbinden, ohne sie zu vermischen.

Für deutsche Institute ist das keine ferne europäische Systemfrage. Wer eine kritische Anwendung einkauft oder auf externer Infrastruktur betreibt, muss die Abhängigkeit auf Institutsebene kennen und gegenüber der Aufsicht belastbar machen. Erst die sektorweite Sicht zeigt anschließend, ob viele Banken denselben Engpass teilen.

Die Aufsicht braucht drei getrennte Karten

Banken sollten ihre KI-Nutzung deshalb in drei miteinander verknüpften Ansichten erfassen. Ein Nutzungsregister hält Zweck, Daten, Modelltyp und verantwortliche Einheit fest. Eine Entscheidungskarte zeigt, ob das System sortiert, empfiehlt, bewertet oder endgültig entscheidet, einschließlich Schwellenwerten, Übersteuerungen und Beschwerdewegen. Eine Anbieterkarte bildet Hosting, Modelle, Datenquellen, Unterauftragnehmer, Ersetzbarkeit und getestete Ausstiegswege ab.

Erst diese Trennung macht Institute vergleichbar. Eine Bank mit vielen Assistenzwerkzeugen kann ein geringeres Entscheidungsrisiko tragen als ein Institut mit wenigen, aber vollautomatischen Hochwirkungsmodellen. Umgekehrt kann ein intern kontrolliertes Kreditmodell operativ an einem schwer ersetzbaren Cloud-Anbieter hängen. Eine einzige Nutzungsquote verdeckt beide Unterschiede.

Die Marke von mehr als 90 Prozent zeigt daher vor allem, dass KI im beaufsichtigten Bankensektor zum Normalbetrieb gehört. Die nächste aufsichtliche Frage lautet nicht, wer KI verwendet. Sie lautet, wo ein Modell die Entscheidung vorbereitet, wo es sie trifft und welcher externe Anbieter den Prozess im Ernstfall am Laufen hält.