KI-BedrohungskatalogLieferkette und HerkunftLieferkette
Lieferkette – Infrastruktur
Angreifer kompromittieren die technische Umgebung, in der ein KI-System entwickelt und betrieben wird: Cloud-Dienste, Entwicklungswerkzeuge und Software-Bausteine von Drittanbietern. So verschaffen sie sich Zugriff auf Systeme, Daten und Modelle.
Beschreibung
Ein KI-System entsteht nicht im leeren Raum: Es stützt sich auf Cloud-Plattformen, Programmbibliotheken, Entwicklungswerkzeuge und Dienste externer Anbieter. Jede dieser Komponenten kann Schwachstellen enthalten oder gezielt manipuliert sein. Angreifer nutzen zum Beispiel verwundbare oder gefälschte Software-Pakete, offen erreichbare KI-Server oder ungesicherte Container-Registries (Speicherorte für einsatzfertige Software-Pakete), um unbemerkt einzudringen. Gelingt der Einstieg, können sie Systeme und Netzwerke übernehmen, Daten abziehen oder das Modell selbst verändern. Das Risiko betrifft die gesamte Kette vom Training bis zum laufenden Betrieb und entsteht oft außerhalb des eigenen Hauses, beim Anbieter oder Lieferanten.
Mögliche Auswirkung
Eine kompromittierte Infrastruktur kann den Betrieb des KI-Systems stören oder lahmlegen und die Integrität des Modells zerstören: Auf die Ergebnisse ist dann kein Verlass mehr. Vertrauliche Daten wie Trainingsdaten, Zugangsschlüssel oder Kundendaten können abfließen. Es folgen Kosten für Wiederherstellung und Aufklärung, Melde- und Haftungsrisiken nach DSGVO und EU AI Act sowie Reputationsschäden bei Kunden und Partnern.
Beispiel
Ein Entwicklungsteam installiert eine gängige KI-Programmbibliothek. Angreifer haben in den offiziellen Paketkanal eine gefälschte Abhängigkeit eingeschleust, die beim Installieren unbemerkt Zugangsdaten und Systeminformationen an einen fremden Server sendet. Genau das traf Nutzer einer Vorabversion eines weit verbreiteten KI-Frameworks.
Empfohlene Gegenmaßnahmen (4)
Jede Maßnahme nennt ihre Maßnahmenart, Wirkung, Umsetzungsebene und die Begründung der Einordnung.
Ausschließlich vertrauenswürdige Lieferanten nutzenVertrags- & Drittparteienmanagement
- Wirkung
- Präventiv
- Umsetzungsebene
- Lieferkette
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Ausschließlich vertrauenswürdige Lieferanten nutzen“ ist primär dem Vertrags- & Drittparteienmanagement zugeordnet: Auswahl, überprüfbare Zusagen sowie Prüf- und Durchsetzungsrechte gegenüber Dritten ermöglichen die Schutzwirkung; ergänzt durch verbindliche Abläufe.
Infrastruktur-HärtungTechnisch
- Wirkung
- Präventiv
- Umsetzungsebene
- Infrastruktur
- Begründung der Einordnung
- „Infrastruktur-Härtung“ ist primär technisch: Sichere Formate, restriktive Voreinstellungen oder Schutzschichten reduzieren unsichere Ausführungspfade und Angriffsflächen.
Lieferketten-SicherheitsauditsVertrags- & Drittparteienmanagement
- Wirkung
- Präventiv, Aufdeckend
- Umsetzungsebene
- Lieferkette
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Lieferketten-Sicherheitsaudits“ ist primär dem Vertrags- & Drittparteienmanagement zugeordnet: Vertraglich gesicherte Prüf-, Auskunfts- und Nachbesserungsrechte ermöglichen Kontrolle; verbindliche Prüfabläufe setzen sie um.
Kontinuierliche Überwachung der Hosting-UmgebungenTechnisch
- Wirkung
- Aufdeckend
- Umsetzungsebene
- Infrastruktur, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Kontinuierliche Überwachung der Hosting-Umgebungen“ ist primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren; ergänzt durch verbindliche Abläufe.
Standard-Zuordnungen
Verifizierte Fundstellen in OWASP, NIST AI RMF, MITRE ATLAS, EU AI Act und weiteren Rahmenwerken. Die Zuordnungen sind taxonomisch, kein Konformitätsnachweis.
Belegte Referenzen (13)
Jede Referenz nennt Rahmenwerk, Fundstelle und die herausgebende Organisation.
- OWASP LLM Top 10 LLM03:2025 Supply ChainLLM03:2025 Supply Chain, official category page OWASP FoundationOriginal
- NIST AI RMF Abschnitt 2.12 Value Chain and Component IntegrationAbschnitt 2.12, p. 12 National Institute of Standards and Technology (NIST)Original
- NIST AI RMF GOVERN 6.1 GOVERN 6.1GOVERN 6.1, p. 24 National Institute of Standards and Technology (NIST)Original
- NIST AI RMF MAP 4.1 MAP 4.1MAP 4.1, p. 27 National Institute of Standards and Technology (NIST)Original
- NIST AI RMF NISTAML.05 Supply Chain AttacksTaxonomy Index, pp. x–xi; Abschnitt 3.2, pp. 41–43 National Institute of Standards and Technology (NIST)Original
- MITRE ATLAS AML.T0010 AI Supply Chain CompromiseATLAS.yaml technique object with id AML.T0010 (pinned release v5.6.0) MITREOriginal
- EU AI Act Article 25(4) Responsibilities along the AI value chainArticle 25(4) European Union (EUR-Lex)Original
- EU AI Act Article 53(1)(a) Obligations for providers of general-purpose AI modelsArticle 53(1)(a) and Annex XI European Union (EUR-Lex)Original
- EU AI Act Article 55(1)(d) Obligations of providers of general-purpose AI models with systemic riskArticle 55(1)(d) European Union (EUR-Lex)Original
- BSI R1 Abhängigkeit vom entwickelnden/betreibenden Unternehmen (Text, Bild, Video)Kap. 4, R1, p. 13 Bundesamt für Sicherheit in der Informationstechnik (BSI)Original
- BIML BIML-LLM inference:9 HostingPDF p. 19, [inference:9:hosting] Berryville Institute of Machine Learning (BIML)Original
- BIML BIML78 inference:4 HostingPDF p. 20, [inference:4:hosting] Berryville Institute of Machine Learning (BIML)Original
- BIML BIML78 raw:3 StoragePDF p. 10, [raw:3:storage] Berryville Institute of Machine Learning (BIML)Original
Verwandte Bedrohungen
Weitere Einträge aus der Themengruppe Lieferkette und Herkunft.
Diese Bedrohung im eigenen System bewerten
Die Live-Demo enthält alle 52 Bedrohungen dieses Katalogs samt EU-AI-Act- und DSGVO-Einwertung. Die kostenlosen Einzelmodule decken KI-Risiko, EU-KI-VO und DSGVO ab. Ohne Registrierung; die Bewertung läuft lokal in Ihrem Browser.
Diesen Eintrag zitieren
Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diesen Eintrag.
„Lieferkette – Infrastruktur“. Versatile AI Risk Assessment, KI-Bedrohungskatalog, Stand Juli 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/bedrohungen/lieferkette-infrastruktur/