Rahmenwerke Verbindliche EU-Verordnung European Union (EUR-Lex)
DSGVO (Datenschutz-Grundverordnung)
Die DSGVO regelt den Schutz personenbezogener Daten, auch bei der Entwicklung und Nutzung von KI-Systemen.
Inhalte und Zweck
Die Datenschutz-Grundverordnung regelt die Verarbeitung personenbezogener Daten in ihrem Anwendungsbereich. Ihre Anforderungen sind auch bei der Entwicklung, dem Training und dem Einsatz von KI-Systemen zu beachten.
Der Bedrohungskatalog verweist auf die DSGVO, wenn personenbezogene Daten betroffen sein können. Dazu gehören Daten in Trainingsbeständen, Modellausgaben und Protokollen sowie Informationen, die sich durch Angriffe aus einem Modell rekonstruieren lassen.
Ergänzend berücksichtigt der Katalog die Stellungnahme 28/2024 des Europäischen Datenschutzausschusses. Sie behandelt die Anonymität von KI-Modellen, das berechtigte Interesse als mögliche Rechtsgrundlage und die Folgen einer rechtswidrigen Verarbeitung von Trainingsdaten.
Bezüge zum Bedrohungskatalog
Die folgenden Zuordnungen zeigen, welche Bedrohungen der Katalog mit diesem Rahmenwerk verknüpft. Für 8 von insgesamt 52 Bedrohungen sind entsprechende Bezüge dokumentiert. Die Übersicht zeigt ihre Verteilung nach Themengruppen.
44 Bedrohungen ohne zugeordnete Fundstelle
Für diese Bedrohungen ist im Katalog keine Fundstelle aus diesem Rahmenwerk hinterlegt. Ob die Originalquellen das Thema dennoch behandeln, muss gesondert geprüft werden. Bezüge zu anderen Rahmenwerken finden Sie auf den jeweiligen Bedrohungsseiten.
- Lieferkette – Infrastruktur Lieferkette und Herkunft
- Lieferkette – Modelle Lieferkette und Herkunft
- Vergiftung der Trainingsdaten Manipulation von Modell und Trainingsdaten
- Gezielte Datenvergiftung / Label-Vergiftung Manipulation von Modell und Trainingsdaten
- Backdoor im ML-Modell Manipulation von Modell und Trainingsdaten
- Sleepy Agent (zeit-/ereignisgetriggerte verdeckte Instruktionen) Manipulation von Modell und Trainingsdaten
- Modell-Diebstahl Angriffe auf Modell und Betrieb
- Adversariale Eingaben Angriffe auf Modell und Betrieb
- Prompt Injection – Direkt Prompt-Angriffe und Umgehung von Schutzmechanismen
- Prompt Injection – Indirekt Prompt-Angriffe und Umgehung von Schutzmechanismen
- Jailbreaks Prompt-Angriffe und Umgehung von Schutzmechanismen
- Extraktion des Meta-Prompts Prompt-Angriffe und Umgehung von Schutzmechanismen
- Denial-of-Service auf das Modell Angriffe auf Modell und Betrieb
- Cost Harvesting / Zweckentfremdung Angriffe auf Modell und Betrieb
- Unsicherer Umgang mit Modellausgaben Anwendungs- und Integrationssicherheit
- Unsicheres Tool-Design Anwendungs- und Integrationssicherheit
- Anwendungs-Schwachstellen Anwendungs- und Integrationssicherheit
- Denial-of-Service auf die Anwendung Angriffe auf Modell und Betrieb
- Excessive Agency (übermäßige Handlungsermächtigung) Autonome KI und Agenten
- Übermäßiges Vertrauen in das KI-System Verlässlichkeit und verantwortliche Nutzung
- Hassrede und Diskriminierung Schädliche Inhalte
- Obszöne Sprache / Profanität Schädliche Inhalte
- Sexuelle Inhalte Schädliche Inhalte
- Gewalt / gefährliche Handlungen Schädliche Inhalte
- Kontroverse Themen Schädliche Inhalte
- Rechtswidrige Handlungen Schädliche Inhalte
- Selbstverletzung Schädliche Inhalte
- Belästigung Schädliche Inhalte
- Unethisches Verhalten Schädliche Inhalte
- Social Engineering Missbrauch für Angriffe, Betrug und Desinformation
- Betrug Missbrauch für Angriffe, Betrug und Desinformation
- Schadsoftware Missbrauch für Angriffe, Betrug und Desinformation
- Desinformation Missbrauch für Angriffe, Betrug und Desinformation
- Faktische Fehler (Halluzinationen) Verlässlichkeit und verantwortliche Nutzung
- Misalignment (Fehlausrichtung) Autonome KI und Agenten
- Agenten-KI / Autonome Agenten Autonome KI und Agenten
- RAG-spezifische Angriffe (Document Poisoning) Anwendungs- und Integrationssicherheit
- Modell-Drift & -Degradation Verlässlichkeit und verantwortliche Nutzung
- Multimodale Angriffe Prompt-Angriffe und Umgehung von Schutzmechanismen
- Modell-Reconnaissance Angriffe auf Modell und Betrieb
- Middleware-Exploits (Angriffe auf AI-Frameworks) Anwendungs- und Integrationssicherheit
- MCP-Hijacking (Model Context Protocol) Anwendungs- und Integrationssicherheit
- Seitenkanal-Angriffe (Timing-Analyse) Angriffe auf Modell und Betrieb
- Graph-RAG-Vergiftung (Knowledge-Graph-Injection) Anwendungs- und Integrationssicherheit
Zur Auswertung: Rahmenwerke kombinieren und Zuordnungen vergleichen
Zugeordnete Bedrohungen (8)
Die Bedrohungen sind nach Themen geordnet. Wählen Sie einen Eintrag, um die Beschreibung, mögliche Auswirkungen und Gegenmaßnahmen aufzurufen.
Autonome KI und Agenten
2 BedrohungenDatenschutz und Datenabfluss
4 BedrohungenLieferkette und Herkunft
1 BedrohungVerlässlichkeit und verantwortliche Nutzung
1 BedrohungKeine passenden Bedrohungen gefunden. Ändern Sie den Suchbegriff oder setzen Sie die Filter zurück.
Verwendete Quellen (2)
Die Zuordnungen beruhen auf den hier aufgeführten Dokumentfassungen. Auf den jeweiligen Quellenseiten finden Sie Angaben zu Herausgeber und Stand sowie die Fundstellen und zugeordneten Bedrohungen.
Die Verweise führen zu den verwendeten Originalquellen. Maßgeblich ist der Wortlaut der jeweiligen Veröffentlichung. Eine Zuordnung im Katalog zeigt einen fachlichen Bezug; sie ist kein Nachweis dafür, dass ein KI-System die beschriebenen Anforderungen erfüllt.
Die Verweise dienen der datenschutzrechtlichen Orientierung. Die Prüfung des konkreten Verarbeitungsvorgangs und eine gegebenenfalls erforderliche Datenschutz-Folgenabschätzung bleiben notwendig.
Weitere Rahmenwerke
Die Rahmenwerke setzen unterschiedliche Schwerpunkte: rechtliche Anforderungen, organisatorisches Risikomanagement und technische Sicherheit. Hier finden Sie die weiteren Perspektiven, die der Katalog berücksichtigt.
Vom Rahmenwerk zur Bewertung
Nutzen Sie den Bedrohungskatalog, um mögliche Auswirkungen, geeignete Gegenmaßnahmen und die zugehörigen Quellen zu prüfen. Die Live-Demo läuft ohne Registrierung lokal in Ihrem Browser.
Diese Seite zitieren
Übernehmen Sie diese Quellenangabe in Berichte, Richtlinien oder interne Unterlagen. Der enthaltene Link führt direkt zu dieser Seite.
„DSGVO (Datenschutz-Grundverordnung)“ (European Union (EUR-Lex), European Data Protection Board (EDPB)). Zuordnungen im KI-Bedrohungskatalog, Versatile AI Risk Assessment, Stand Juli 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/rahmenwerke/dsgvo/