Versatile AI Risk Assessment
Banken und Versicherungen

Betrugserkennung im Zahlungsverkehr

Englisch: Payment fraud detection

Ein Modell bewertet jede Zahlung in Echtzeit auf Betrugsverdacht und hält auffällige Zahlungen an oder legt sie zur Prüfung vor.

Interaktives Modell erkunden

Handout exportieren

Eine kompakte PDF mit Funktionsweise, Datenwegen und Prüfansätzen zum Weitergeben.

Die Erläuterungen und Maßnahmen beschreiben den typischen Aufbau. Viele eigene Änderungen ergänzen einen Anhang.

Den Anwendungsfall verstehen

Was macht diesen Anwendungsfall aus?

Zahlungsnetze, Zahlungsdienstleister und Banken nutzen solche Modelle. Für die Europäische Bankenaufsicht und die BaFin ist das einer der häufigsten KI-Einsätze im Finanzsektor.

Die Seite beschreibt einen typischen Aufbau. Die tatsächlichen Datenwege und Befugnisse ergeben sich aus Ihrer Umsetzung.

Bauform
Auswertung und Verarbeitung
Handlungsmacht
Kann in Anwendungen handeln
Einsatzfelder
Banken, Kartenzahlung, Zahlungsdienste
Auch bekannt als
Fraud Detection, Transaktionsüberwachung

Funktionsweise und Ablauf

Aufbau und Datenwege

  1. Eingabedaten

    Zu jeder Zahlung kommen Betrag, Empfänger, Zeitpunkt, Gerät und Ort an, dazu die bisherigen Zahlungen von Karte oder Konto.

    Betrag, Empfänger, Gerät und Ort bestimmt, wer die Zahlung auslöst, und das kann auch ein Betrüger sein. Jede Zahlung ist einer Karte oder einem Konto und damit einer Person zugeordnet.

  2. Verarbeitung

    Ein Modell vergleicht die Zahlung mit bekannten Betrugsmustern und dem üblichen Verhalten und berechnet einen Risikowert.

    Das System vergleicht Transaktionen und ihre Merkmale mit erlernten Mustern oder einem erwarteten Verhalten. Es erzeugt eine Auffälligkeitseinschätzung, die weitere Prüfung auslösen kann. Eine Sperre oder Ablehnung entsteht erst durch die nachgelagerte Prozesslogik und die dort vorgesehenen Befugnisse.

  3. Ergebnisse

    Das System gibt die Zahlung frei, verlangt eine zusätzliche Bestätigung, hält sie an oder lehnt sie ab.

    Das Ergebnis beschreibt die definierte Modellaufgabe. Ein Treffer, eine Kategorie oder eine Prognose erhält seine fachliche Bedeutung erst zusammen mit den zugrunde liegenden Daten und dem vorgesehenen Verwendungszweck.

  4. Nutzung und Auswirkungen

    Die Entscheidung fällt, während die Person an der Kasse oder im Onlineshop wartet, und legt fest, ob die Zahlung ausgeführt wird.

    Durch Schreib- oder Ausführungsrechte kann das System einen Zustand in einer Anwendung verändern. Deshalb sind Modellantwort, Werkzeugaufruf und tatsächlich ausgeführte Änderung getrennt zu betrachten.

Aufbau aktiv erkunden: Wählen Sie einen Baustein, um seine Aufgabe, die ein- und ausgehenden Daten und die Einbindung im Anwendungsfall zu sehen. Der geführte Ablauf erläutert jede Phase. Mit Ja, Offen und Nein können Sie anschließend Ihre konkrete Systemvariante abbilden.

12 zuerst zu prüfen6 zu klären7 Grundlagen

EingangVerarbeitungErgebnisWirkung Zugangvon außen 31 Eingabe 40 InhalteDritter 00 KI-Modell 11 Dienst einesAnbieters 02 Dokumenten-sammlung 01 Gedächtnis 00 Training undRückmeldung 30 WeitereKI-Agenten 00 Werkzeuge undSchnittstellen 00 Ergebnis 00 Fachanwendungoder Anlage 10 Mensch 00 BetroffenePerson 00 KI-Diensteohne Freigabe 01 Zugangvon außen 31 Eingabe 40 InhalteDritter 00 KI-Modell 11 Dienst einesAnbieters 02 Dokumenten-sammlung 01 Gedächtnis 00 Training undRückmeldung 30 WeitereKI-Agenten 00 Werkzeuge undSchnittstellen 00 Ergebnis 00 Fachanwendungoder Anlage 10 Mensch 00 BetroffenePerson 00 KI-Diensteohne Freigabe 01
  • Vorhanden
  • Hängt von Ihrem System ab
  • Nicht vorhanden
  • Zuerst zu prüfen
  • Zu klären
Aufbau als Liste

Abgrenzung zu ähnlichen Anwendungsfällen

Daten und Informationen

Eingabedaten und Informationsquellen

Betrag, Empfänger, Gerät und Ort bestimmt, wer die Zahlung auslöst, und das kann auch ein Betrüger sein. Jede Zahlung ist einer Karte oder einem Konto und damit einer Person zugeordnet.

Verarbeitung und Betriebsumgebung

Nutzt eine Bank oder ein Händler den Dienst eines Zahlungsdienstleisters, stammt das Modell von diesem.

Speicherung und weitere Nutzung

Zahlungsnetze und Zahlungsdienstleister trainieren ihre Modelle mit den Zahlungen, die über sie laufen. Rückbuchungen und die Ergebnisse manueller Prüfungen fließen als neue Lernbeispiele zurück.

Ergebnisse und Datenweitergabe

Das System hält Zahlungen mit hohem Risiko selbst an oder lehnt sie ab, bevor ein Mensch sie sieht.

Ein eingebundener Anbieter legt den Verarbeitungsort nicht automatisch fest. Speicherort, Unterauftragnehmer, Löschfristen und die Nutzung für Training sind im konkreten Betrieb zu prüfen.

Risiken einordnen und Maßnahmen festlegen

Vom Systemverständnis zur Risikoanalyse

  1. System abgrenzen

    Daten, Beteiligte, Schnittstellen und Rechte erfassen. Offene Merkmale im Modell klären.

  2. Bedrohungen untersuchen

    Prüfkandidaten auf die tatsächlichen Datenwege beziehen: Was könnte passieren und wer wäre betroffen?

  3. Risiko bewerten

    Auswirkungen und Eintrittswahrscheinlichkeit im Einsatzkontext bewerten. Die Anzahl der Prüfkandidaten ist kein Risikowert.

  4. Maßnahmen nachweisen

    Geeignete Kontrollen auswählen, Verantwortliche und Wirksamkeitsprüfungen festlegen. Restrisiken und Freigaben dokumentieren.

Wichtige Bedrohungen im Anwendungskontext

  • 4 besonders wichtig
  • 8 üblich
  • 6 je nach System
  • 7 weitere bei jedem KI-System

Insgesamt kommen bei diesem Anwendungsfall 25 Bedrohungen aus dem Bedrohungskatalog infrage.

Außerdem prüfen: ob das System Gruppen benachteiligt

Prüfen Sie, ob Auswahl, Rangfolge oder Bewertung Menschen mit geschützten Merkmalen benachteiligen, etwa nach Geschlecht, Alter oder Herkunft.

Vorrangige Prüfansätze

  1. Adversariale Eingaben

    Betrügerinnen und Betrüger testen mit kleinen Beträgen, welche Zahlungen durchgehen, und passen Betrag, Händler und Zeitpunkt an. Das Modell stuft die späteren Zahlungen dann als unauffällig ein.

  2. Modell-Drift & -Degradation

    Neue Maschen wie Überweisungen nach dem Anruf eines falschen Bankmitarbeiters sehen anders aus als die gelernten Fälle. Bis genug neue Beispiele vorliegen, erkennt das Modell sie schlechter.

  3. Gezielte Datenvergiftung / Label-Vergiftung

    Melden Kundinnen und Kunden eigene Käufe als Betrug, gelangen falsche Kennzeichnungen in die Lerndaten. Das Modell hält dann ähnliche rechtmäßige Zahlungen für verdächtig oder übersieht echte Fälle.

  4. Excessive Agency (übermäßige Handlungsermächtigung)

    Das System darf Zahlungen ohne menschliche Prüfung ablehnen. Ist die Schwelle falsch eingestellt, stoppt es in kurzer Zeit viele rechtmäßige Zahlungen.

8 weitere Prüfkandidaten im typischen Aufbau

Weitere relevante Bedrohungen

  1. Vergiftung der Trainingsdaten

    Über eigenes Training oder Rückmeldungen aus dem Betrieb können manipulierte Daten in die Lerndaten gelangen.

    Steht hier wegen dieser Eigenschaften

    • Lernt aus Ihren eigenen Daten
    • Verwertet Rückmeldungen aus dem Betrieb

  2. Backdoor im ML-Modell

    Über Trainingsdaten oder ein übernommenes Grundmodell kann das Modell versteckte Auslöser für Fehlverhalten enthalten.

    Steht hier wegen dieser Eigenschaft

    • Lernt aus Ihren eigenen Daten

  3. Modell-Diebstahl

    Wer das Modell abfragen kann, kann es mit vielen Abfragen nachbauen. Selbst trainierte Gewichte lassen sich über den Netzzugang stehlen.

    Steht hier wegen dieser Eigenschaften

    • Lernt aus Ihren eigenen Daten
    • Ist über ein Netzwerk erreichbar

  4. Denial-of-Service auf das Modell

    Aufwendige oder massenhafte Eingaben können die Rechenleistung des Modells erschöpfen.

    Steht hier wegen dieser Eigenschaft

    • Ist über ein Netzwerk erreichbar

  5. Privacy-Angriffe

    Mit gezielten Abfragen lassen sich personenbezogene und schutzbedürftige Trainingsdaten teilweise aus dem Modell zurückgewinnen.

    Steht hier wegen dieser Eigenschaften

    • Verarbeitet personenbezogene Daten
    • Verarbeitet vertrauliche Daten

  6. Offenlegung sensibler Informationen

    Vertrauliche Inhalte können in Antworten, im mitgegebenen Kontext oder in Protokollen auftauchen.

    Steht hier wegen dieser Eigenschaften

    • Verarbeitet personenbezogene Daten
    • Verarbeitet vertrauliche Daten

  7. Exfiltration aus der ML-Anwendung

    Schutzbedürftige Daten können über Werkzeuge, Netzverbindungen, Speicher oder Innentäter abfließen.

    Steht hier wegen dieser Eigenschaft

    • Verarbeitet vertrauliche Daten

  8. Denial-of-Service auf die Anwendung

    Ist die Anwendung über das Netz erreichbar, können massenhafte Anfragen sie lahmlegen.

    Steht hier wegen dieser Eigenschaft

    • Ist über ein Netzwerk erreichbar

Je nach Aufbau Ihres Systems kommen bis zu 6 weitere hinzu. Neun Bedrohungen prüfen Sie bei jedem KI-System. Zwei davon sind hier besonders wichtig und stehen deshalb oben.

Systemmerkmale und offene Fragen

Jedes Ja setzt weitere Bedrohungen auf Ihre Prüfliste, insgesamt bis zu 6. Können Sie eine Frage noch nicht beantworten, prüfen Sie die Bedrohungen mit.

Wie viele Bedrohungen bei Ja hinzukommen
  • Kommt mit diesem Ja hinzu

Wie Ihr System gebaut ist

  1. Nutzt ein Begriffsnetz (Wissensgraph)1 Bedrohung
  2. Optimiert eine vorgegebene Kennzahl1 Bedrohung

Wie Sie das System betreiben

  1. Ist für Menschen außerhalb der Organisation nutzbar2 Bedrohungen
  2. Nimmt Anfragen direkt über eine Schnittstelle an1 Bedrohung
  3. Verursacht mit jeder Anfrage Kosten1 Bedrohung
  4. Teilt Rechenleistung mit anderen Kunden oder Anwendungen1 Bedrohung
  5. Neben KI-Diensten ohne Freigabe im Einsatz1 Bedrohung

Wie Ihr System gebaut ist

Nutzt das System ein Begriffsnetz (Wissensgraph), in dem Begriffe und ihre Beziehungen gespeichert sind?

Manche Systeme speichern Konten, Geräte und Händler als Netz von Beziehungen, um zusammenhängende Betrugsringe zu erkennen.

Wenn ja, kommt hinzu

Soll das System eine vorgegebene Kennzahl möglichst verbessern, etwa Umsatz, Auslastung oder Klicks?

Stellt der Betreiber die Schwelle nach den Kosten von Betrug und entgangenem Umsatz ein, arbeitet das System auf ein geschäftliches Ziel hin.

Wenn ja, kommt hinzu

Wie Sie das System betreiben

Diese Fragen stellen sich bei fast jedem KI-System.

Können Personen oder Programme dem Modell direkt Anfragen stellen, zum Beispiel über eine Schnittstelle?

Wenn ja, kommt hinzu

Maßnahmen und Umsetzung

Maßnahmen zu den Prüfschwerpunkten sind direkt geöffnet. Die verlinkten Maßnahmen erläutern jeweils die Umsetzung.

PrüfschwerpunktAdversariale Eingaben2 Maßnahmen
PrüfschwerpunktModell-Drift & -Degradation3 Maßnahmen
PrüfschwerpunktGezielte Datenvergiftung / Label-Vergiftung3 Maßnahmen
PrüfschwerpunktExcessive Agency (übermäßige Handlungsermächtigung)3 Maßnahmen
Vergiftung der Trainingsdaten2 Maßnahmen
Backdoor im ML-Modell2 Maßnahmen
Modell-Diebstahl3 Maßnahmen
Denial-of-Service auf das Modell3 Maßnahmen
Privacy-Angriffe3 Maßnahmen
Offenlegung sensibler Informationen3 Maßnahmen
Exfiltration aus der ML-Anwendung3 Maßnahmen
Denial-of-Service auf die Anwendung3 Maßnahmen

Maßnahmen gegen die übrigen Bedrohungen finden Sie auf deren Seiten im Bedrohungskatalog.

Vorschriften der KI-Verordnung

Gilt für jedes KI-System

Art. 4: KI-Kompetenz

Greift, wenn Beschäftigte oder Beauftragte KI-Systeme betreiben oder nutzen.

Gilt seit dem 2. Februar 2025.

Pflichten und Einzelheiten
Wer die Pflichten trägt
Anbieter, Betreiber, Produkthersteller, Anbieter eines KI-Modells mit allgemeinem Verwendungszweck

Die Pflichten im Einzelnen

Greift in der Regel nicht

Anhang III Nr. 5 Buchst. b: Kreditwürdigkeit

Anhang III Nr. 5 Buchst. b nimmt Systeme, die Finanzbetrug aufdecken sollen, ausdrücklich aus.

Pflichten und Einzelheiten
Allgemein lautet die Bedingung
Greift, wenn das System die Kreditwürdigkeit von Personen bewertet oder ihren Kreditscore ermittelt.
Ausnahme
Systeme, die Finanzbetrug aufdecken sollen.
Wer die Pflichten trägt
Anbieter, Betreiber, Produkthersteller

Die Pflichten im Einzelnen

Ihr System im Schnellprüfer einordnen Alle Pflichten im Pflichtenkompass

Übergreifende Bedrohungen

Diese Bedrohungen prüfen Sie bei jedem KI-System, egal wofür es eingesetzt wird.

Warum diese Bedrohungen immer dazugehören

Abweichende Systemmerkmale

15 weitere Fragen ansehen

Trifft eine dieser Fragen bei Ihrem System doch zu, kommen die genannten Bedrohungen hinzu.

Quellen

Verwandte Anwendungsfälle

Ebenfalls im Einsatzgebiet Banken und Versicherungen

Oft zusammen eingesetzt mit

Stand: 30. September 2026. Regelwerk der Prüfliste in Fassung 0.3.2, Bedrohungskatalog in Fassung 2026.10.24.2. Wie diese Seiten aufgebaut sind