Quellenverzeichnis National Institute of Standards and Technology (NIST) NIST AI 100-2e2025
Angriffe und Gegenmaßnahmen beim maschinellen Lernen
Hier finden Sie die im Katalog verwendete Dokumentfassung und die Fundstellen, die den einzelnen Bedrohungen zugeordnet sind.
Angaben zum Dokument
- Herausgeber
- National Institute of Standards and Technology (NIST)
- Herangezogener Stand
- NIST AI 100-2e2025
- Rahmenwerk
- NIST AI RMF
Originaldokument beim Herausgeber öffnen Externer Verweis; maßgeblich ist immer die Fassung des Herausgebers.
Fundstellen im Katalog (23)
Die Tabelle nennt die jeweilige Kennung, den Titel und die Fundstelle im Originaldokument sowie die zugeordneten Bedrohungen.
| Kennung | Titel und Fundstelle | Zugeordnete Bedrohungen |
|---|---|---|
Abschnitt 3.5 |
Security of Agents Abschnitt 3.5, p. 54 | Unsicheres Tool-DesignExcessive Agency (übermäßige Handlungsermächtigung)Agenten-KI / Autonome AgentenMCP-Hijacking (Model Context Protocol) |
NISTAML.012 |
Clean-label Poisoning Taxonomy Index, p. x; Abschnitt 2.3.1, p. 20; related clean-label targeted attacks in Abschnitt 2.3.2, p. 21 | Vergiftung der TrainingsdatenGezielte Datenvergiftung / Label-Vergiftung |
NISTAML.013 |
Data Poisoning Taxonomy Index, pp. x–xi; Abschnitt 2.3.1, p. 19; Abschnitt 3.2.1, p. 42 | Vergiftung der Trainingsdaten |
NISTAML.014 |
Energy-latency Taxonomy Index, p. x; Abschnitt 2.1.2, p. 6; Glossary, p. 108 | Denial-of-Service auf das Modell |
NISTAML.015 |
Indirect Prompt Injection Taxonomy Index, pp. x–xi; Abschnitt 3.4, pp. 50–53; Glossary, p. 110 | Prompt Injection – IndirektExfiltration aus der ML-AnwendungRAG-spezifische Angriffe (Document Poisoning)Cross-Tenant-Leakage (Multi-Tenant Vector-DB)MCP-Hijacking (Model Context Protocol)Graph-RAG-Vergiftung (Knowledge-Graph-Injection) |
NISTAML.018 |
Prompt Injection Taxonomy Index, pp. x–xi; Abschnitt 3.3, pp. 43–49; Glossary, p. 111 | Prompt Injection – DirektExtraktion des Meta-Prompts |
NISTAML.021 |
Clean-label Backdoor Taxonomy Index, p. x; Abschnitt 2.3.3, pp. 22–25 | Backdoor im ML-Modell |
NISTAML.022 |
Evasion Taxonomy Index, p. x; Abschnitt 2.2, pp. 11–18 | Adversariale EingabenMultimodale Angriffe |
NISTAML.023 |
Backdoor Poisoning Taxonomy Index, pp. x–xi; Abschnitt 2.3.3, pp. 22–25; Abschnitt 3.2.1–3.2.2, p. 42 | Backdoor im ML-ModellSleepy Agent (zeit-/ereignisgetriggerte verdeckte Instruktionen) |
NISTAML.024 |
Targeted Poisoning Taxonomy Index, pp. x–xi; Abschnitt 2.3.2, p. 21; Abschnitt 3.2.1, p. 42 | Gezielte Datenvergiftung / Label-Vergiftung |
NISTAML.025 |
Black-box Evasion Taxonomy Index, p. x; Abschnitt 2.2.2, p. 15 | Adversariale EingabenMultimodale Angriffe |
NISTAML.026 |
Model Poisoning Taxonomy Index, p. x; Abschnitt 2.3.4, p. 26 | Lieferkette – ModelleBackdoor im ML-Modell |
NISTAML.027 |
Misaligned Outputs Taxonomy Index, p. xi; Abschnitt 3.4.2, pp. 51–52 | RAG-spezifische Angriffe (Document Poisoning)Graph-RAG-Vergiftung (Knowledge-Graph-Injection) |
NISTAML.031 |
Model Extraction Taxonomy Index, p. x; Abschnitt 2.4.4, pp. 31–32; Abschnitt 3.3.2, p. 47 | Modell-DiebstahlModell-ReconnaissanceSeitenkanal-Angriffe (Timing-Analyse) |
NISTAML.032 |
Reconstruction Taxonomy Index, p. x; Abschnitt 2.4.1, pp. 28–29 | Privacy-AngriffeOffenlegung sensibler Informationen |
NISTAML.033 |
Membership Inference Taxonomy Index, p. x; Abschnitt 2.4.2, pp. 29–30 | Privacy-Angriffe |
NISTAML.035 |
Prompt Extraction Taxonomy Index, p. xi; Abschnitt 3.3.2, pp. 46–47; Glossary, p. 111 | Extraktion des Meta-PromptsOffenlegung sensibler Informationen |
NISTAML.036 |
Leaking information from user interactions Taxonomy Index, p. xi; Abschnitt 3.4.3, pp. 52–53 | Exfiltration aus der ML-AnwendungCross-Tenant-Leakage (Multi-Tenant Vector-DB) |
NISTAML.038 |
Data Extraction Taxonomy Index, p. xi; Abschnitt 3.3.2, pp. 46–47 | Privacy-AngriffeOffenlegung sensibler Informationen |
NISTAML.039 |
Compromising connected resources Taxonomy Index, p. xi; Abschnitt 3.4.3, pp. 52–53 | Exfiltration aus der ML-AnwendungMCP-Hijacking (Model Context Protocol) |
NISTAML.04 |
Misuse Violations Taxonomy Index, p. xi; Abschnitt 3.1.2, p. 40 | Jailbreaks |
NISTAML.05 |
Supply Chain Attacks Taxonomy Index, pp. x–xi; Abschnitt 3.2, pp. 41–43 | Lieferkette – InfrastrukturLieferkette – DatensätzeMiddleware-Exploits (Angriffe auf AI-Frameworks)Shadow AI (nicht genehmigte Nutzung von KI-Diensten) |
NISTAML.051 |
Model Poisoning Taxonomy Index, p. xi; Abschnitt 3.2.2, p. 42 | Lieferkette – ModelleBackdoor im ML-ModellSleepy Agent (zeit-/ereignisgetriggerte verdeckte Instruktionen) |
Diese Seite gibt keine Normtexte wieder. Sie nennt Kennung, Titel und Fundstelle des Abschnitts; der Wortlaut steht im Originaldokument. Die Zuordnungen zeigen fachliche Bezüge. Sie belegen nicht, dass ein System die jeweiligen Anforderungen erfüllt.
Bedrohungen mit Bezug auf dieses Dokument (29)
Nach Themengruppe geordnet. Jeder Eintrag führt zur vollständigen Bedrohungsseite.
Angriffe auf Modell und Betrieb
Anwendungs- und Integrationssicherheit
Autonome KI und Agenten
Datenschutz und Datenabfluss
Lieferkette und Herkunft
Manipulation von Modell und Trainingsdaten
Prompt-Angriffe und Umgehung von Schutzmechanismen
Verlässlichkeit und verantwortliche Nutzung
Weitere Dokumente desselben Herausgebers
Alle im Katalog belegten Dokumente von National Institute of Standards and Technology (NIST).
Vom Beleg zur Bewertung
Der vollständige Katalog nennt zu jeder Bedrohung die Gegenmaßnahmen, die mögliche Auswirkung und alle belegten Fundstellen. Die Live-Demo läuft ohne Registrierung lokal in Ihrem Browser.
Diese Seite zitieren
Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diese Quellenseite.
„Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations“ (National Institute of Standards and Technology (NIST)). Fundstellen im KI-Bedrohungskatalog, Versatile AI Risk Assessment, Stand Oktober 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/quellen/nist-ai-100-2-adversarial-machine-learning/