Eingabedaten und Informationsquellen
Einkommen, Beruf und weitere Angaben im Antrag macht die Person selbst, die den Kredit beantragt. Das System bewertet eine bestimmte Person mit Namen, Anschrift und bisherigem Zahlungsverhalten.
Kreditscoring und Bonitätsprüfung
Englisch: Credit scoring and creditworthiness assessment
Aus Zahlungs- und Kundendaten schätzt ein Modell, wie wahrscheinlich eine Person ihre Raten zahlt, und bestimmt so mit, ob und zu welchen Bedingungen sie einen Kredit bekommt.
Den Anwendungsfall verstehen
Was macht diesen Anwendungsfall aus?
Banken und Auskunfteien nutzen solche Werte. Kleinere Institute setzen dafür laut BaFin aber bisher selten KI ein.
Die Seite beschreibt einen typischen Aufbau. Die tatsächlichen Datenwege und Befugnisse ergeben sich aus Ihrer Umsetzung.
- Bauform
- Auswertung und Verarbeitung
- Handlungsmacht
- Handlungsrechte je nach Einbindung
- Einsatzfelder
- Banken, Auskunfteien
- Auch bekannt als
- Scoring, Kreditwürdigkeitsprüfung, Bonitätsbewertung
Funktionsweise und Ablauf
Aufbau und Datenwege
Eingabedaten
Das Modell erhält Antragsangaben, Kontodaten und Auskünfte zum bisherigen Zahlungsverhalten.
Einkommen, Beruf und weitere Angaben im Antrag macht die Person selbst, die den Kredit beantragt. Das System bewertet eine bestimmte Person mit Namen, Anschrift und bisherigem Zahlungsverhalten.
Verarbeitung
Das Modell gewichtet die Angaben und berechnet daraus eine Ausfallwahrscheinlichkeit.
Das Modell bildet aus zugelassenen Angaben eine Einschätzung der Kreditwürdigkeit oder eines Ausfallrisikos. Diese Einschätzung wird mit den Entscheidungsregeln des Kreditprozesses verbunden. Ein Score, eine Entscheidungsvorlage und eine endgültige Kreditentscheidung sind unterschiedliche Ergebnisse.
Ergebnisse
Das Modell liefert einen Scorewert oder eine daraus abgeleitete Risikoklasse.
Das Ergebnis beschreibt die definierte Modellaufgabe. Ein Treffer, eine Kategorie oder eine Prognose erhält seine fachliche Bedeutung erst zusammen mit den zugrunde liegenden Daten und dem vorgesehenen Verwendungszweck.
Nutzung und Auswirkungen
Der Wert entscheidet mit darüber, ob eine Person einen Kredit erhält, in welcher Höhe und zu welchem Zins.
Die Einbindung bestimmt, ob das Ergebnis lediglich angezeigt, nach Freigabe übernommen oder direkt in ein Fachverfahren geschrieben wird. Diese Varianten unterscheiden sich in ihren Datenwegen und Befugnissen.
Aufbau aktiv erkunden: Wählen Sie einen Baustein, um seine Aufgabe, die ein- und ausgehenden Daten und die Einbindung im Anwendungsfall zu sehen. Der geführte Ablauf erläutert jede Phase. Mit Ja, Offen und Nein können Sie anschließend Ihre konkrete Systemvariante abbilden.
9 zuerst zu prüfen9 zu klären6 Grundlagen
- Vorhanden
- Hängt von Ihrem System ab
- Nicht vorhanden
- Zuerst zu prüfen
- Zu klären
So nutzen Sie das Modell
Das Bild zeigt den Anwendungsfall, wie er typischerweise gebaut ist. Wählen Sie einen Baustein, um zu sehen, was dort geschieht, und stellen Sie seine Merkmale auf Ihr System um. Mit „Analysehinweise“ sehen Sie anschließend, welche Prüfkandidaten zu diesem Aufbau gehören. Die Prüfliste der Seite bleibt auf den typischen Fall bezogen.
Abweichungen vom typischen Fall
Noch keine. Jede Umstellung erscheint hier.
Wo die meisten Bedrohungen ansetzen
- 4 zuerst zu prüfen
- 4 zu klären
- 3 zuerst zu prüfen
- 1 zuerst zu prüfen, 1 zu klären
Im gezeigten Aufbau: 9 zuerst zu prüfen, 9 zu klären, 6 Grundlagen.
Aufbau als Liste
Zugang von außen: Hängt von Ihrem System ab
Zu klären
Eingabe: Gehört zu jedem KI-System
Zuerst prüfen
Inhalte Dritter: Vorhanden
KI-Modell: Gehört zu jedem KI-System
Zuerst prüfen
- Modell-Drift & -Degradation Prüfschwerpunkt
Zu klären
Dienst eines Anbieters: Hängt von Ihrem System ab
Zu klären
Training und Rückmeldung: Vorhanden
Zuerst prüfen
Ergebnis: Gehört zu jedem KI-System
Grundlage für jedes KI-System
Fachanwendung oder Anlage: Hängt von Ihrem System ab
Zu klären
Mensch: Gehört zu jedem KI-System
Zuerst prüfen
- Übermäßiges Vertrauen in das KI-System Prüfschwerpunkt
Betroffene Person: Vorhanden
KI-Dienste ohne Freigabe: Hängt von Ihrem System ab
Zu klären
Lieferkette und technische Basis: 5 Grundlagen, die für jedes KI-System gelten
Grundlage für jedes KI-System
Abgrenzung zu ähnlichen Anwendungsfällen
Betrugserkennung im Zahlungsverkehr
Bewertet einzelne Zahlungen auf Betrugsverdacht, nicht die Zahlungsfähigkeit einer Person
Risikobewertung und Tarifierung in der Lebens- und Krankenversicherung
Schätzt das Sterbe- oder Krankheitsrisiko und leitet daraus Annahme und Beitrag ab
Automatisierte Immobilienbewertung (AVM)
Schätzt den Wert einer Immobilie, die als Kreditsicherheit dient
Daten und Informationen
Verarbeitung und Betriebsumgebung
Übernimmt eine Bank den Scorewert einer Auskunftei, stammt das Modell von einem anderen Anbieter.
Speicherung und weitere Nutzung
Banken und Auskunfteien entwickeln ihre Scoremodelle aus ihren eigenen Kredit- und Zahlungsdaten. Wie die vergebenen Kredite zurückgezahlt werden, fließt in die nächste Fassung des Modells ein.
Ergebnisse und Datenweitergabe
Je nach Kreditprozess löst der Wert eine Zusage oder Ablehnung selbst aus oder liegt nur der Sachbearbeitung vor.
Ein eingebundener Anbieter legt den Verarbeitungsort nicht automatisch fest. Speicherort, Unterauftragnehmer, Löschfristen und die Nutzung für Training sind im konkreten Betrieb zu prüfen.
Risiken einordnen und Maßnahmen festlegen
Vom Systemverständnis zur Risikoanalyse
- System abgrenzen
Daten, Beteiligte, Schnittstellen und Rechte erfassen. Offene Merkmale im Modell klären.
- Bedrohungen untersuchen
Prüfkandidaten auf die tatsächlichen Datenwege beziehen: Was könnte passieren und wer wäre betroffen?
- Risiko bewerten
Auswirkungen und Eintrittswahrscheinlichkeit im Einsatzkontext bewerten. Die Anzahl der Prüfkandidaten ist kein Risikowert.
- Maßnahmen nachweisen
Geeignete Kontrollen auswählen, Verantwortliche und Wirksamkeitsprüfungen festlegen. Restrisiken und Freigaben dokumentieren.
Wichtige Bedrohungen im Anwendungskontext
- 4 besonders wichtig
- 5 üblich
- 9 je nach System
- 6 weitere bei jedem KI-System
Insgesamt kommen bei diesem Anwendungsfall 24 Bedrohungen aus dem Bedrohungskatalog infrage.
Außerdem prüfen: ob das System Gruppen benachteiligt
Prüfen Sie, ob Auswahl, Rangfolge oder Bewertung Menschen mit geschützten Merkmalen benachteiligen, etwa nach Geschlecht, Alter oder Herkunft.
Vorrangige Prüfansätze
Übermäßiges Vertrauen in das KI-System
Liegt der Scorewert knapp unter der Schwelle, lehnt die Sachbearbeitung den Antrag womöglich ab, ohne sich die Lage der Person anzusehen. So wird aus einer Schätzung eine Entscheidung, auch wenn der Wert falsch ist.
Das Modell kennt das Zahlungsverhalten früherer Jahre. Ändern sich Zinsen, Arbeitsmarkt oder Kundschaft, schätzt es Ausfälle zu hoch oder zu niedrig, und niemand merkt es sofort.
Gezielte Datenvergiftung / Label-Vergiftung
Das Modell lernt aus früheren Krediten, die als zurückgezahlt oder ausgefallen markiert sind. Sind diese Markierungen falsch oder manipuliert, verschiebt sich die Grenze zwischen Zusage und Ablehnung für alle späteren Anträge.
Wer weiß, welche Angaben den Wert heben, kann den Antrag so ausfüllen, dass er knapp über der Schwelle liegt. Das System empfiehlt dann einen Kredit, den es bei zutreffenden Angaben abgelehnt hätte.
5 weitere Prüfkandidaten im typischen Aufbau
Weitere relevante Bedrohungen
Über eigenes Training oder Rückmeldungen aus dem Betrieb können manipulierte Daten in die Lerndaten gelangen.
Steht hier wegen dieser Eigenschaften
- Lernt aus Ihren eigenen Daten
- Verwertet Rückmeldungen aus dem Betrieb
Über Trainingsdaten oder ein übernommenes Grundmodell kann das Modell versteckte Auslöser für Fehlverhalten enthalten.
Steht hier wegen dieser Eigenschaft
- Lernt aus Ihren eigenen Daten
Mit gezielten Abfragen lassen sich personenbezogene und schutzbedürftige Trainingsdaten teilweise aus dem Modell zurückgewinnen.
Steht hier wegen dieser Eigenschaften
- Verarbeitet personenbezogene Daten
- Verarbeitet vertrauliche Daten
Offenlegung sensibler Informationen
Vertrauliche Inhalte können in Antworten, im mitgegebenen Kontext oder in Protokollen auftauchen.
Steht hier wegen dieser Eigenschaften
- Verarbeitet personenbezogene Daten
- Verarbeitet vertrauliche Daten
Exfiltration aus der ML-Anwendung
Schutzbedürftige Daten können über Werkzeuge, Netzverbindungen, Speicher oder Innentäter abfließen.
Steht hier wegen dieser Eigenschaft
- Verarbeitet vertrauliche Daten
Je nach Aufbau Ihres Systems kommen bis zu 9 weitere hinzu. Neun Bedrohungen prüfen Sie bei jedem KI-System. Drei davon sind hier besonders wichtig und stehen deshalb oben.
Systemmerkmale und offene Fragen
Jedes Ja setzt weitere Bedrohungen auf Ihre Prüfliste, insgesamt bis zu 9. Können Sie eine Frage noch nicht beantworten, prüfen Sie die Bedrohungen mit.
- Kommt mit diesem Ja hinzu
Wie Ihr System gebaut ist
- Verändert Daten oder löst Vorgänge aus1 Bedrohung
- Optimiert eine vorgegebene Kennzahl1 Bedrohung
Wie Sie das System betreiben
- Ist für Menschen außerhalb der Organisation nutzbar5 Bedrohungen
- Nimmt Anfragen direkt über eine Schnittstelle an4 Bedrohungen
- Ist über ein Netzwerk erreichbar3 Bedrohungen
- Verursacht mit jeder Anfrage Kosten1 Bedrohung
- Teilt Rechenleistung mit anderen Kunden oder Anwendungen1 Bedrohung
- Neben KI-Diensten ohne Freigabe im Einsatz1 Bedrohung
Wie Ihr System gebaut ist
Kann das System selbst etwas verändern, etwa Daten speichern, Nachrichten senden, Buchungen auslösen oder Rechte vergeben?
Je nach Kreditprozess löst der Wert eine Zusage oder Ablehnung selbst aus oder liegt nur der Sachbearbeitung vor.
Wenn ja, kommt hinzu
Soll das System eine vorgegebene Kennzahl möglichst verbessern, etwa Umsatz, Auslastung oder Klicks?
Richtet der Kreditgeber die Schwelle an Zusagequote oder Ertrag aus, arbeitet das System auf ein geschäftliches Ziel hin.
Wenn ja, kommt hinzu
Wie Sie das System betreiben
Diese Fragen stellen sich bei fast jedem KI-System.
Können Personen oder Programme dem Modell direkt Anfragen stellen, zum Beispiel über eine Schnittstelle?
Auskunfteien und Plattformen stellen Scorewerte oft über eine Schnittstelle bereit.
Wenn ja, kommt hinzu
Ist das System über ein Netzwerk erreichbar oder auf Dienste im Netz angewiesen?
Wenn ja, kommt hinzu
Zahlen Sie je Anfrage oder je Rechenzeit, sodass die Kosten mit der Nutzung steigen?
Wenn ja, kommt hinzu
Teilt sich das System Server oder Rechenleistung mit anderen Kunden oder Anwendungen?
Wenn ja, kommt hinzu
Können Menschen außerhalb Ihrer Organisation das System nutzen, auch ohne Anmeldung?
Bei einem Kreditantrag im Internet löst jede Person, die das Formular ausfüllt, eine Bewertung aus.
Wenn ja, kommt hinzu
Nutzen Beschäftigte für diese Aufgabe auch KI-Dienste, die Ihre Organisation nicht freigegeben hat?
Wenn ja, kommt hinzu
Maßnahmen und Umsetzung
Maßnahmen zu den Prüfschwerpunkten sind direkt geöffnet. Die verlinkten Maßnahmen erläutern jeweils die Umsetzung.
PrüfschwerpunktÜbermäßiges Vertrauen in das KI-System3 Maßnahmen
PrüfschwerpunktModell-Drift & -Degradation3 Maßnahmen
PrüfschwerpunktGezielte Datenvergiftung / Label-Vergiftung3 Maßnahmen
PrüfschwerpunktAdversariale Eingaben2 Maßnahmen
Vergiftung der Trainingsdaten2 Maßnahmen
Backdoor im ML-Modell2 Maßnahmen
Privacy-Angriffe3 Maßnahmen
Offenlegung sensibler Informationen3 Maßnahmen
Exfiltration aus der ML-Anwendung3 Maßnahmen
Maßnahmen gegen die übrigen Bedrohungen finden Sie auf deren Seiten im Bedrohungskatalog.
Vorschriften der KI-Verordnung
-
Art. 4: KI-Kompetenz
Für jedes KI-System Gilt seit dem 2. Februar 2025.
-
Anhang III Nr. 5 Buchst. b: Kreditwürdigkeit
Bei typischem Einsatz Prüfanlass ab dem 2. Dezember 2027.
Gilt für jedes KI-System
Art. 4: KI-Kompetenz
Greift, wenn Beschäftigte oder Beauftragte KI-Systeme betreiben oder nutzen.
Gilt seit dem 2. Februar 2025.
Pflichten und Einzelheiten zu Art. 4: KI-Kompetenz
- Wer die Pflichten trägt
- Anbieter, Betreiber, Produkthersteller, Anbieter eines KI-Modells mit allgemeinem Verwendungszweck
Die Pflichten im Einzelnen
Kann beim üblichen Einsatz greifen
Anhang III Nr. 5 Buchst. b: Kreditwürdigkeit
Greift, wenn das System die Kreditwürdigkeit einer natürlichen Person bewertet oder ihren Scorewert ermittelt, etwa für einen Verbraucherkredit oder einen Ratenkauf.
Gilt ab dem 2. Dezember 2027.
Pflichten und Einzelheiten zu Anhang III Nr. 5 Buchst. b: Kreditwürdigkeit
- Allgemein lautet die Bedingung
- Greift, wenn das System die Kreditwürdigkeit von Personen bewertet oder ihren Kreditscore ermittelt.
- Ausnahme
- Systeme, die Finanzbetrug aufdecken sollen.
- Wer die Pflichten trägt
- Anbieter, Betreiber, Produkthersteller
Die Pflichten im Einzelnen
Weitere Rechtsgrundlagen
Art. 22 DSGVO
Schon die Berechnung eines Scorewerts ist eine automatisierte Einzelentscheidung, wenn der Kreditgeber sich maßgeblich darauf stützt (EuGH, C-634/21).
Ihr System im Schnellprüfer einordnen Alle Pflichten im Pflichtenkompass
Übergreifende Bedrohungen
Diese Bedrohungen prüfen Sie bei jedem KI-System, egal wofür es eingesetzt wird.
- Lieferkette: Infrastruktur
- Lieferkette: Modelle
- Lieferkette: Datensätze
- Adversariale Eingaben Prüfschwerpunkt: Adversariale Eingaben
- Unsicherer Umgang mit Modellausgaben
- Anwendungs-Schwachstellen
- Übermäßiges Vertrauen in das KI-System Prüfschwerpunkt: Übermäßiges Vertrauen in das KI-System
- Modell-Drift & -Degradation Prüfschwerpunkt: Modell-Drift & -Degradation
- Middleware-Exploits (Angriffe auf AI-Frameworks)
Abweichende Systemmerkmale
16 weitere Fragen ansehen
Trifft eine dieser Fragen bei Ihrem System doch zu, kommen die genannten Bedrohungen hinzu.
Schreibt das System eigene Texte, etwa Antworten, Entwürfe oder Zusammenfassungen?
Das System gibt einen Wert oder eine Risikoklasse aus und formuliert keine Texte.
Wenn ja, kommt hinzu
Erzeugt oder verändert das System Bilder, Töne, Stimmen oder Videos?
Wenn ja, kommt hinzu
Schreibt oder gestaltet das System auf freie Anfrage neue Inhalte, die Menschen direkt lesen, sehen oder hören? Übersetzen, Vorlesen und Abschreiben zählen nicht.
Wenn ja, kommt hinzu
Kann man dem System in normaler Sprache Aufträge geben, die es dann ausführt?
Ein Scoremodell rechnet mit Antragsdaten und nimmt keine Aufträge in normaler Sprache an.
Wenn ja, kommt hinzu
Sucht das System in einer eigenen Sammlung von Dokumenten oder Datensätzen nach passenden Inhalten?
Wenn ja, kommt hinzu
Formuliert das System seine Antwort aus gefundenen Dokumenten?
Wenn ja, kommt hinzu
Nutzt das System ein Begriffsnetz (Wissensgraph), in dem Begriffe und ihre Beziehungen gespeichert sind?
Wenn ja, kommt hinzu
Merkt sich das System Inhalte aus früheren Gesprächen oder Aufgaben und nutzt sie später wieder?
Wenn ja, kommt hinzu
Ruft das System selbst andere Programme, Schnittstellen oder Suchdienste auf, auch wenn es dort nur liest?
Wenn ja, kommt hinzu
Legt das System seine nächsten Arbeitsschritte selbst fest, je nachdem, was vorher herauskam?
Wenn ja, kommt hinzu
Gibt das System Aufgaben an andere KI-Agenten weiter oder übernimmt es deren Ergebnisse?
Wenn ja, kommt hinzu
Ist das System über das Model Context Protocol (MCP) an Werkzeuge oder Datenquellen angebunden?
Wenn ja, kommt hinzu
Liegen Dokumente mehrerer Kunden, Abteilungen oder Berechtigungsgruppen im selben Suchspeicher?
Wenn ja, kommt hinzu
Verarbeitet das System mehrere Arten von Eingaben zusammen, etwa Text mit Bild oder Sprache?
Wenn ja, kommt hinzu
Erzeugt das System Programmcode, Skripte oder Datenbankabfragen, die weiterverwendet werden?
Wenn ja, kommt hinzu
Führt das System selbst Programme, Skripte oder Befehle aus?
Wenn ja, kommt hinzu
Quellen
- Rechtsakt, Norm oder Standard
KI-Verordnung, Anhang III Nr. 5 Buchst. b
Die Verordnung nennt KI-Systeme, die die Kreditwürdigkeit natürlicher Personen bewerten oder ihre Kreditpunktzahl ermitteln, ausdrücklich in Anhang III.
- Behörde, Gericht oder Parlament
EuGH, Pressemitteilung Nr. 186/23 zu C-634/21 (SCHUFA)
Der Gerichtshof sieht schon die Berechnung eines Scorewerts als automatisierte Einzelentscheidung nach Art. 22 DSGVO, wenn ein Dritter sich maßgeblich darauf stützt.
- Behörde, Gericht oder Parlament
EBA, Follow-up report on machine learning for IRB models, 2023
Die Europäische Bankenaufsicht berichtet, dass Banken maschinelles Lernen vor allem nutzen, um die Kreditwürdigkeit zu prüfen und Scores zu berechnen.
- Behörde, Gericht oder Parlament
BaFin, Fachartikel zu KI bei Banken und Versicherern, 1. August 2024
Die BaFin warnt davor, dass verzerrte Trainingsdaten zu Diskriminierung führen können.
- Fachstudie
OECD, Framework for the Classification of AI Systems, 2022
Die OECD wählt Kreditscoring als erstes Beispiel ihres Rahmens, mit dem sie KI-Systeme einordnet.
- Behörde, Gericht oder Parlament
CFPB, CFPB Announces First No-Action Letter to Upstart Network, 14. September 2017
Die Behörde nennt einen Anbieter, der Kreditanträge mit einem automatisierten Modell und maschinellem Lernen prüft.
- Behörde, Gericht oder Parlament
Laut BaFin setzen kleinere Institute KI bei der Prüfung der Kreditwürdigkeit bisher selten ein.
Verwandte Anwendungsfälle
Ebenfalls im Einsatzgebiet Banken und Versicherungen
- Betrugserkennung im ZahlungsverkehrEin Modell bewertet jede Zahlung in Echtzeit auf Betrugsverdacht und hält auffällige Zahlungen an oder legt sie zur Prüfung vor.
- Geldwäscheerkennung und SanktionsscreeningBanken durchsuchen Konten- und Zahlungsdaten nach Mustern der Geldwäsche und gleichen alle Beteiligten mit Sanktionslisten ab.
- Risikobewertung und Tarifierung in der Lebens- und KrankenversicherungVersicherer schätzen das Sterbe- oder Krankheitsrisiko einer Person, die einen Vertrag beantragt, und leiten daraus ab, ob sie sie annehmen und welchen Beitrag sie verlangen.
- KI-gestützte SchadenbearbeitungDas System wertet Schadenunterlagen und Fotos aus, prüft den Anspruch gegen den Vertrag, markiert Unstimmigkeiten und bereitet die Regulierung vor.
Oft zusammen eingesetzt mit
Stand: 30. September 2026. Regelwerk der Prüfliste in Fassung 0.3.2, Bedrohungskatalog in Fassung 2026.10.24.2. Wie diese Seiten aufgebaut sind