KI-BedrohungskatalogMissbrauch für Angriffe, Betrug und DesinformationProduktion
Betrug
Kriminelle begehen mit KI Betrug in größerem Umfang und mit höherer Glaubwürdigkeit: über gefälschte Bewertungen, erfundene Identitäten, manipulierte Dokumente sowie geklonte Stimmen und Videos.
Beschreibung
Generative KI liefert Betrügern die Bausteine einer glaubwürdigen Täuschung. Sprachmodelle verfassen überzeugende Betrugsnachrichten und gefälschte Produktbewertungen; Bildgeneratoren erstellen Profilfotos, Ausweisdokumente und ganze erfundene Identitäten, mit denen sich massenhaft fingierte Konten und Social-Media-Profile anlegen lassen. Stimmklone und Deepfakes (KI-erzeugte Bild-, Ton- oder Videoinhalte, die echten Personen täuschend ähnlich sind) geben sich als Angehörige, Geschäftspartner oder bekannte Persönlichkeiten aus, um Zahlungen auszulösen. Angriffspunkte sind Zahlungs- und Bestellprozesse, Kundenkanäle sowie Identitätsprüfungen wie die Video-Identifikation, deren biometrische Kontrollen sich mit Deepfakes überwinden lassen.
Mögliche Auswirkung
Unternehmen drohen unmittelbare Vermögensschäden durch erschlichene Zahlungen und Konten unter falscher Identität. Gefälschte Bewertungen und betrügerische Auftritte im Namen des Unternehmens beschädigen Marke und Kundenvertrauen. Werden Identitätsprüfungen überwunden, kommen rechtliche und regulatorische Risiken hinzu, etwa bei der Geldwäscheprävention und den Pflichten zur Kundenidentifizierung (Know Your Customer).
Beispiel
Betrüger eröffnen bei einem Finanzdienstleister Konten mit KI-generierten Ausweisbildern und bestehen die Video-Identifikation mit einem in Echtzeit eingespielten Deepfake-Gesicht. Über die so eröffneten Konten wickeln sie anschließend betrügerische Zahlungen ab.
Empfohlene Gegenmaßnahmen (5)
Jede Maßnahme nennt ihre Maßnahmenart, Wirkung, Umsetzungsebene und die Begründung der Einordnung.
Betrugserkennungs-Modelle in WorkflowsTechnisch
- Wirkung
- Aufdeckend
- Umsetzungsebene
- Modell & Training, Anwendung, API & Agenten
- Begründung der Einordnung
- „Betrugserkennungs-Modelle in Workflows“ ist primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Identitäts- und Dokumenten-VerifikationTechnisch
- Wirkung
- Präventiv, Aufdeckend
- Umsetzungsebene
- Anwendung, API & Agenten, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Identitäts- und Dokumenten-Verifikation“ ist primär technisch: Maschinell erzwungene Identitäts-, Berechtigungs- oder Bereichsregeln begrenzen unzulässige Zugriffe und Aktionen; ergänzt durch verbindliche Abläufe.
Anomalie-Erkennung bei TransaktionenTechnisch
- Wirkung
- Aufdeckend
- Umsetzungsebene
- Anwendung, API & Agenten, Nutzung & Betrieb
- Begründung der Einordnung
- „Anomalie-Erkennung bei Transaktionen“ ist primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Ablehnung betrugsermöglichender AnfragenTechnisch
- Wirkung
- Präventiv
- Umsetzungsebene
- Anwendung, API & Agenten
- Begründung der Einordnung
- „Ablehnung betrugsermöglichender Anfragen“ ist primär technisch: Systemseitige Prüf-, Transformations- oder Blockierregeln stoppen oder neutralisieren unzulässige Inhalte vor der Weiterverarbeitung.
Forensische Audit-TrailsTechnisch
- Wirkung
- Aufdeckend
- Umsetzungsebene
- Anwendung, API & Agenten, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Forensische Audit-Trails“ ist primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren; ergänzt durch verbindliche Abläufe.
Standard-Zuordnungen
Verifizierte Fundstellen in OWASP, NIST AI RMF, MITRE ATLAS, EU AI Act und weiteren Rahmenwerken. Die Zuordnungen sind taxonomisch, kein Konformitätsnachweis.
Belegte Referenzen (6)
Jede Referenz nennt Rahmenwerk, Fundstelle und die herausgebende Organisation.
- NIST AI RMF Abschnitt 2.8 Information IntegrityAbschnitt 2.8, pp. 9–10 National Institute of Standards and Technology (NIST)Original
- MITRE ATLAS AML.T0048.002 Societal HarmATLAS.yaml technique object with id AML.T0048.002 (pinned release v5.6.0) MITREOriginal
- EU AI Act Article 5(1)(a) Prohibited AI practicesArticle 5(1)(a); where the catalogue cites exploitation, compare Article 5(1)(b) European Union (EUR-Lex)Original
- EU AI Act Article 55(1)(b) Obligations of providers of general-purpose AI models with systemic riskArticle 55(1)(b) European Union (EUR-Lex)Original
- BSI R10 Erzeugung ver- und gefälschter Inhalte (Text, Bild, Video)Kap. 4, R10, p. 18 Bundesamt für Sicherheit in der Informationstechnik (BSI)Original
- BSI R11 Vortäuschen einer (medialen) Identität (Text, Bild, Video)Kap. 4, R11, p. 19 Bundesamt für Sicherheit in der Informationstechnik (BSI)Original
Verwandte Bedrohungen
Weitere Einträge aus der Themengruppe Missbrauch für Angriffe, Betrug und Desinformation.
Diese Bedrohung im eigenen System bewerten
Die Live-Demo enthält alle 52 Bedrohungen dieses Katalogs samt EU-AI-Act- und DSGVO-Einwertung. Die kostenlosen Einzelmodule decken KI-Risiko, EU-KI-VO und DSGVO ab. Ohne Registrierung; die Bewertung läuft lokal in Ihrem Browser.
Diesen Eintrag zitieren
Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diesen Eintrag.
„Betrug“. Versatile AI Risk Assessment, KI-Bedrohungskatalog, Stand Juli 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/bedrohungen/betrug/