KI-BedrohungskatalogVerlässlichkeit und verantwortliche NutzungProduktion
Shadow AI (nicht genehmigte Nutzung von KI-Diensten)
Beschäftigte oder Fachbereiche nutzen KI-Dienste ohne Freigabe und Aufsicht des Unternehmens (Schatten-KI). Vertrauliche Daten fließen dabei an externe Anbieter ab, und es entstehen Compliance-Lücken sowie eine unkontrollierte Angriffsfläche.
Beschreibung
Frei verfügbare KI-Werkzeuge wie Chatbots, Übersetzer oder Programmierassistenten sind für alle erreichbar und versprechen schnelle Arbeitserleichterung. Fehlen klare Regeln oder ein freigegebenes internes Angebot, setzen Beschäftigte solche Dienste eigenmächtig ein und geben dabei Kundendaten, Geschäftsgeheimnisse oder Quellcode in fremde Systeme ein. Der externe Anbieter kann auf diese Eingaben zugreifen und sie unter Umständen zum Training seiner Modelle verwenden; vertragliche Absicherung und Datenschutzprüfung fehlen. Das Unternehmen verliert den Überblick, wo KI im Einsatz ist, welche Entscheidungen darauf beruhen und welche Daten das Haus verlassen. Befragungen zeigen, dass diese Nutzung weit verbreitet ist und weiter zunimmt.
Mögliche Auswirkung
Abgeflossene Geschäftsgeheimnisse lassen sich nicht zurückholen; bei personenbezogenen Daten drohen DSGVO-Verstöße, weil Rechtsgrundlage und Auftragsverarbeitungsvertrag fehlen. Pflichten aus dem EU AI Act, etwa Betreiberpflichten und KI-Kompetenz, lassen sich für unbekannte Systeme nicht erfüllen. Zugleich fließen ungeprüfte KI-Ergebnisse in Arbeitsprodukte ein, und jeder unkontrollierte Dienst vergrößert die Angriffsfläche.
Beispiel
Ein Vertriebsmitarbeiter kopiert eine Kundenliste samt Umsatzzahlen in einen kostenlosen Online-Chatbot, um daraus eine Präsentation zu erstellen. Die vertraulichen Daten liegen damit auf Servern eines externen Anbieters, außerhalb jeder Kontrolle des Unternehmens; vergleichbare Vorfälle sind öffentlich dokumentiert.
Empfohlene Gegenmaßnahmen (7)
Jede Maßnahme nennt ihre Maßnahmenart, Wirkung, Umsetzungsebene und die Begründung der Einordnung.
AI-Nutzungsrichtlinie und interne KommunikationGovernance & Compliance
- Wirkung
- Präventiv
- Umsetzungsebene
- Organisation, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „AI-Nutzungsrichtlinie und interne Kommunikation“ ist primär der Maßnahmenart Governance & Compliance zugeordnet: Verbindliche Nutzungsregeln, Zuständigkeiten und Einsatzgrenzen steuern den KI-Einsatz; Kommunikation und Kontrollprozesse setzen sie im Alltag um.
Katalog genehmigter KI-WerkzeugeGovernance & Compliance
- Wirkung
- Präventiv
- Umsetzungsebene
- Organisation, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Katalog genehmigter KI-Werkzeuge“ ist primär der Maßnahmenart Governance & Compliance zugeordnet: Verbindliche Regeln, Kontrollziele oder Aufsicht bestimmen Zulässigkeit und Rechenschaft; ergänzt durch verbindliche Abläufe.
Egress-Monitoring für Traffic zu KI-DienstenTechnisch
- Wirkung
- Aufdeckend
- Umsetzungsebene
- Infrastruktur, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Egress-Monitoring für Traffic zu KI-Diensten“ ist primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren; ergänzt durch verbindliche Abläufe.
Awareness-Trainings zur DatenklassifikationMensch & Kompetenz
- Wirkung
- Präventiv
- Umsetzungsebene
- Organisation, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Awareness-Trainings zur Datenklassifikation“ ist primär der Maßnahmenart Mensch & Kompetenz zugeordnet: Wissen, Aufmerksamkeit oder fachliches Urteil von Personen erzeugen die Schutzentscheidung; ergänzt durch verbindliche Abläufe.
DLP-Kontrollen für Daten-Flüsse zu KI-DienstenTechnisch
- Wirkung
- Präventiv, Aufdeckend
- Umsetzungsebene
- Daten, Anwendung, API & Agenten, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „DLP-Kontrollen für Daten-Flüsse zu KI-Diensten“ ist primär technisch: Systemseitige Prüf-, Transformations- oder Blockierregeln stoppen oder neutralisieren unzulässige Inhalte vor der Weiterverarbeitung; ergänzt durch verbindliche Abläufe.
Genehmigtes Unternehmens-KI-Angebot bereitstellenOrganisatorisch & prozessual
- Wirkung
- Präventiv
- Umsetzungsebene
- Anwendung, API & Agenten, Organisation, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Governance & Compliance, Technisch
- Begründung der Einordnung
- „Genehmigtes Unternehmens-KI-Angebot bereitstellen“ ist primär organisatorisch & prozessual: Festgelegte Auswahl-, Betriebs- oder Lebenszyklusabläufe machen die Maßnahme verbindlich und wiederholbar; ergänzt durch Regeln und Aufsicht sowie technische Umsetzung.
Regelmäßige Audits der KI-NutzungOrganisatorisch & prozessual
- Wirkung
- Aufdeckend
- Umsetzungsebene
- Organisation, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Governance & Compliance
- Begründung der Einordnung
- „Regelmäßige Audits der KI-Nutzung“ ist primär organisatorisch & prozessual: Ein geplanter, wiederholbarer Prüfablauf mit Zuständigkeit und Nachverfolgung erzeugt die Schutzwirkung; ergänzt durch Regeln und Aufsicht.
Standard-Zuordnungen
Verifizierte Fundstellen in OWASP, NIST AI RMF, MITRE ATLAS, EU AI Act und weiteren Rahmenwerken. Die Zuordnungen sind taxonomisch, kein Konformitätsnachweis.
Belegte Referenzen (7)
Jede Referenz nennt Rahmenwerk, Fundstelle und die herausgebende Organisation.
- OWASP LLM Top 10 LLM02:2025 Sensitive Information DisclosureLLM02:2025 Sensitive Information Disclosure, official category page OWASP FoundationOriginal
- NIST AI RMF Abschnitt 2.12 Value Chain and Component IntegrationAbschnitt 2.12, p. 12 National Institute of Standards and Technology (NIST)Original
- NIST AI RMF NISTAML.05 Supply Chain AttacksTaxonomy Index, pp. x–xi; Abschnitt 3.2, pp. 41–43 National Institute of Standards and Technology (NIST)Original
- EU AI Act Article 4 AI literacyArticle 4 European Union (EUR-Lex)Original
- DSGVO Article 25(1)–(2) Data protection by design and by defaultArticle 25(1) and 25(2) European Union (EUR-Lex)Original
- BIML BIML-LLM inference:10 User RiskPDF p. 19, [inference:10:user risk] Berryville Institute of Machine Learning (BIML)Original
- BIML BIML78 inference:5 User RiskPDF p. 20, [inference:5:user risk] Berryville Institute of Machine Learning (BIML)Original
Begriffe auf dieser Seite
Fachbegriffe aus dem Glossar, die in diesem Eintrag vorkommen. Jeder Verweis führt zur vollständigen Erklärung.
- Schatten-KI (Shadow AI) KI-Werkzeuge, die ohne Kenntnis und Freigabe der Organisation genutzt werden.
- KI-Kompetenz (Art. 4 EU AI Act) Pflicht, dass beteiligte Personen KI-Systeme sachkundig einsetzen können.
Verwandte Bedrohungen
Weitere Einträge aus der Themengruppe Verlässlichkeit und verantwortliche Nutzung.
Diese Bedrohung im eigenen System bewerten
Die Live-Demo enthält alle 52 Bedrohungen dieses Katalogs samt EU-AI-Act- und DSGVO-Einwertung. Die kostenlosen Einzelmodule decken KI-Risiko, EU-KI-VO und DSGVO ab. Ohne Registrierung; die Bewertung läuft lokal in Ihrem Browser.
Diesen Eintrag zitieren
Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diesen Eintrag.
„Shadow AI (nicht genehmigte Nutzung von KI-Diensten)“. Versatile AI Risk Assessment, KI-Bedrohungskatalog, Stand Juli 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/bedrohungen/shadow-ai/