Quellenverzeichnis National Institute of Standards and Technology (NIST) NIST AI 600-1

Risikomanagement für generative KI: NIST-Profil

Originaltitel: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile

Hier finden Sie die im Katalog verwendete Dokumentfassung und die Fundstellen, die den einzelnen Bedrohungen zugeordnet sind.

Stand: Oktober 2026 · Katalogversion 2026.10.24.2

Angaben zum Dokument

Herausgeber: National Institute of Standards and Technology (NIST)
Herangezogener Stand: NIST AI 600-1
Rahmenwerk: NIST AI RMF

Originaldokument beim Herausgeber öffnen Externer Verweis; maßgeblich ist immer die Fassung des Herausgebers.

Fundstellen im Katalog (11)

Die Tabelle nennt die jeweilige Kennung, den Titel und die Fundstelle im Originaldokument sowie die zugeordneten Bedrohungen.

Fundstellen dieses Dokuments mit den zugeordneten Bedrohungen
Kennung	Titel und Fundstelle	Zugeordnete Bedrohungen
`Abschnitt 2.1`	CBRN Information or Capabilities Abschnitt 2.1, pp. 5–6	Rechtswidrige Handlungen
`Abschnitt 2.10`	Intellectual Property Abschnitt 2.10, p. 11	Lieferkette – Datensätze Modell-Diebstahl Offenlegung sensibler Informationen
`Abschnitt 2.11`	Obscene, Degrading, and/or Abusive Content Abschnitt 2.11, pp. 11–12	Obszöne Sprache / Profanität Sexuelle Inhalte
`Abschnitt 2.12`	Value Chain and Component Integration Abschnitt 2.12, p. 12	Lieferkette – Infrastruktur Lieferkette – Modelle Lieferkette – Datensätze Middleware-Exploits (Angriffe auf AI-Frameworks)Shadow AI (nicht genehmigte Nutzung von KI-Diensten)
`Abschnitt 2.2`	Confabulation Abschnitt 2.2, p. 6	Übermäßiges Vertrauen in das KI-System Faktische Fehler (Halluzinationen)
`Abschnitt 2.3`	Dangerous, Violent, or Hateful Content Abschnitt 2.3, pp. 6–7	Hassrede und Diskriminierung Gewalt / gefährliche Handlungen Rechtswidrige Handlungen Selbstverletzung Belästigung Unethisches Verhalten
`Abschnitt 2.4`	Data Privacy Abschnitt 2.4, pp. 7–8	Privacy-Angriffe Offenlegung sensibler Informationen Exfiltration aus der ML-Anwendung
`Abschnitt 2.6`	Harmful Bias and Homogenization Abschnitt 2.6, pp. 8–9	Hassrede und Diskriminierung Kontroverse Themen Modell-Drift & -Degradation
`Abschnitt 2.7`	Human-AI Configuration Abschnitt 2.7, p. 9	Übermäßiges Vertrauen in das KI-System
`Abschnitt 2.8`	Information Integrity Abschnitt 2.8, pp. 9–10	Social Engineering Betrug Desinformation Faktische Fehler (Halluzinationen)
`Abschnitt 2.9`	Information Security Abschnitt 2.9, pp. 10–11	Vergiftung der Trainingsdaten Gezielte Datenvergiftung / Label-Vergiftung Backdoor im ML-Modell Sleepy Agent (zeit-/ereignisgetriggerte verdeckte Instruktionen)Adversariale Eingaben Prompt Injection – Direkt Prompt Injection – Indirekt Jailbreaks Extraktion des Meta-Prompts Denial-of-Service auf das Modell Privacy-Angriffe Offenlegung sensibler Informationen Exfiltration aus der ML-Anwendung Unsicherer Umgang mit Modellausgaben Unsicheres Tool-Design Anwendungs-Schwachstellen Social Engineering Schadsoftware

Diese Seite gibt keine Normtexte wieder. Sie nennt Kennung, Titel und Fundstelle des Abschnitts; der Wortlaut steht im Originaldokument. Die Zuordnungen zeigen fachliche Bezüge. Sie belegen nicht, dass ein System die jeweiligen Anforderungen erfüllt.

Bedrohungen mit Bezug auf dieses Dokument (38)

Nach Themengruppe geordnet. Jeder Eintrag führt zur vollständigen Bedrohungsseite.

Angriffe auf Modell und Betrieb

Anwendungs- und Integrationssicherheit

Datenschutz und Datenabfluss

Lieferkette und Herkunft

Manipulation von Modell und Trainingsdaten

Missbrauch für Angriffe, Betrug und Desinformation

Prompt-Angriffe und Umgehung von Schutzmechanismen

Schädliche Inhalte

Verlässlichkeit und verantwortliche Nutzung

Weitere Dokumente desselben Herausgebers

Alle im Katalog belegten Dokumente von National Institute of Standards and Technology (NIST).

Vom Beleg zur Bewertung

Der vollständige Katalog nennt zu jeder Bedrohung die Gegenmaßnahmen, die mögliche Auswirkung und alle belegten Fundstellen. Die Live-Demo läuft ohne Registrierung lokal in Ihrem Browser.

Zum Bedrohungskatalog Live-Demo starten

Diese Seite zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diese Quellenseite.

„Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile“ (National Institute of Standards and Technology (NIST)). Fundstellen im KI-Bedrohungskatalog, Versatile AI Risk Assessment, Stand Oktober 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/quellen/nist-ai-600-1-profil-generative-ki/

← Zurück zum Quellenverzeichnis