Bedrohungen verstehenBedrohungen RegelwerkeSVG

Zwei Bedrohungen und ihre gemeinsamen Fundstellen

Wählen Sie zwei Bedrohungen oder ein vorgeschlagenes Paar mit großer Überschneidung. Die mittlere Spalte zeigt die Stellen, auf die beide verweisen; die äußeren zeigen, was jeweils nur für eine gilt. Darunter stehen die Gegenmaßnahmen beider Seiten.

Für alle, die Richtlinien, Schulungen oder Prüfpläne formulieren

Vorschlag mit großer Überschneidung Erste Bedrohung Zweite Bedrohung

Backdoor im ML-Modell und Sleepy Agent (zeit-/ereignisgetriggerte verdeckte Instruktionen) teilen 11 von 17 Fundstellen. Beide stehen in derselben Themengruppe.

11gemeinsame Fundstellen

5nur bei der ersten

1nur bei der zweiten

4 zu 6Gegenmaßnahmen im Katalog

2/5gemeinsame Wirkungsarten

Nur Backdoor im ML-Modell5

Manipulation von Modell und Trainingsdaten · Entwicklung

BIML BIML78 model:2 BSI R20 NIST AI RMF NISTAML.021 NIST AI RMF NISTAML.026 OWASP LLM Top 10 LLM04:2026

Beiden gemeinsam11

dieselbe Stelle im selben Regelwerk

BIML BIML-LLM model:4 BSI R19 EU AI Act Article 53(1)(a) EU AI Act Article 55(1)(a) EU AI Act Article 9(1), 9(2)(a), 9(2)(d) MITRE ATLAS AML.T0018 NIST AI RMF Abschnitt 2.9 NIST AI RMF MEASURE 2.7 NIST AI RMF NISTAML.023 NIST AI RMF NISTAML.051 OWASP LLM Top 10 LLM05:2026

Nur Sleepy Agent (zeit-/ereignisgetriggerte verdeckte Instruktionen)1

Manipulation von Modell und Trainingsdaten · Entwicklung

MITRE ATLAS AML.T0020

Backdoor im ML-Modell 4 Gegenmaßnahmen

In das Modell ist ein verstecktes Verhalten eingebaut, eine Backdoor (Hintertür). Bei normalen Eingaben arbeitet es korrekt; erst ein geheimes Auslösemuster in der Eingabe kippt die Ausgabe in das vom Angreifer gewünschte Ergebnis.

Modell-Scanning auf Backdoors
Wirkung: Aufdeckend Umsetzungsebene: Modell & Training Maßnahmenart: Technisch

Begründung der Einordnung
Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Neural-Cleanse-Techniken
Wirkung: Aufdeckend Umsetzungsebene: Modell & Training Maßnahmenart: Technisch

Begründung der Einordnung
Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Analyse von Aktivierungs-Clustern
Wirkung: Aufdeckend Umsetzungsebene: Modell & Training Maßnahmenart: Technisch

Begründung der Einordnung
Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Nur von vertrauenswürdigen Basismodellen trainieren
Wirkung: Präventiv Umsetzungsebene: Modell & Training, Lieferkette Maßnahmenart: Organisatorisch & prozessual Ergänzende Art: Technisch

Begründung der Einordnung
Primär organisatorisch & prozessual: Festgelegte Auswahl-, Betriebs- oder Lebenszyklusabläufe machen die Maßnahme verbindlich und wiederholbar; ergänzt durch technische Umsetzung.

Sleepy Agent (zeit-/ereignisgetriggerte verdeckte Instruktionen) 6 Gegenmaßnahmen

Im Modell schlummert verdeckte Schadlogik, die sich erst zeitversetzt aktiviert: an einem Stichtag, bei einem bestimmten Ereignis oder in einer bestimmten Umgebung. Bis dahin besteht das System alle Tests und Prüfungen unauffällig.

Verhaltensanalyse unter diversen Bedingungen
Wirkung: Aufdeckend Umsetzungsebene: Modell & Training Maßnahmenart: Technisch

Begründung der Einordnung
Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Tests mit verschobener Zeitbasis
Wirkung: Aufdeckend Umsetzungsebene: Modell & Training Maßnahmenart: Technisch

Begründung der Einordnung
Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Adversariale Evaluierung über verschiedene Kontexte hinweg
Wirkung: Aufdeckend Umsetzungsebene: Modell & Training Maßnahmenart: Technisch

Begründung der Einordnung
Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Laufzeit-Verhaltensüberwachung
Wirkung: Aufdeckend Umsetzungsebene: Modell & Training, Nutzung & Betrieb Maßnahmenart: Technisch Ergänzende Art: Organisatorisch & prozessual

Begründung der Einordnung
Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren; ergänzt durch verbindliche Abläufe.
Werkzeuge zur Modell-Interpretierbarkeit
Wirkung: Aufdeckend Umsetzungsebene: Modell & Training Maßnahmenart: Technisch

Begründung der Einordnung
Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Integritätsprüfung der Lieferkette
Wirkung: Präventiv, Aufdeckend Umsetzungsebene: Modell & Training, Lieferkette Maßnahmenart: Technisch Ergänzende Art: Organisatorisch & prozessual

Begründung der Einordnung
Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren; ergänzt durch verbindliche Abläufe.

AngriffsverlaufWie eine dieser Bedrohungen im Einzelnen verläuft, zeigt der Angriffsverlauf.

Die Datei zeigt den aktuellen Stand samt gesetzter Filter und enthält Hinweis, Katalogstand und Quelle.

Eine gemeinsame Fundstelle bedeutet, dass beide Bedrohungen auf dieselbe Stelle desselben Regelwerks verweisen. Sie sagt nicht, dass eine Gegenmaßnahme beide abdeckt.

Versatile AI Risk Assessment ist ein Hilfsmittel zur Strukturierung und Transparenz von KI‑Risiken. Es ersetzt keine Rechts- oder Fachberatung und trifft keine verbindlichen Entscheidungen.

Weitere Auswertungen