Versatile AI Risk Assessment

KI-Bedrohungskatalog Verlässlichkeit und verantwortliche Nutzung Produktion

Shadow AI (nicht genehmigte Nutzung von KI-Diensten)

Beschäftigte oder Fachbereiche nutzen KI-Dienste ohne Freigabe und Aufsicht des Unternehmens (Schatten-KI). Vertrauliche Daten fließen dabei an externe Anbieter ab, und es entstehen Compliance-Lücken sowie eine unkontrollierte Angriffsfläche.

Stand: Oktober 2026 · Katalogversion 2026.10.24.2 · 7 Gegenmaßnahmen · 8 belegte Quellen

Beschreibung

Frei verfügbare KI-Werkzeuge wie Chatbots, Übersetzer oder Programmierassistenten sind für alle erreichbar und versprechen schnelle Arbeitserleichterung. Fehlen klare Regeln oder ein freigegebenes internes Angebot, setzen Beschäftigte solche Dienste eigenmächtig ein und geben dabei Kundendaten, Geschäftsgeheimnisse oder Quellcode in fremde Systeme ein. Der externe Anbieter kann auf diese Eingaben zugreifen und sie unter Umständen zum Training seiner Modelle verwenden; vertragliche Absicherung und Datenschutzprüfung fehlen. Das Unternehmen verliert den Überblick, wo KI im Einsatz ist, welche Entscheidungen darauf beruhen und welche Daten das Haus verlassen. Befragungen zeigen, dass diese Nutzung weit verbreitet ist und weiter zunimmt.

Mögliche Auswirkung

Abgeflossene Geschäftsgeheimnisse lassen sich nicht zurückholen; bei personenbezogenen Daten drohen DSGVO-Verstöße, weil Rechtsgrundlage und Auftragsverarbeitungsvertrag fehlen. Pflichten aus dem EU AI Act, etwa Betreiberpflichten und KI-Kompetenz, lassen sich für unbekannte Systeme nicht erfüllen. Zugleich fließen ungeprüfte KI-Ergebnisse in Arbeitsprodukte ein, und jeder unkontrollierte Dienst vergrößert die Angriffsfläche.

Beispiel

Ein Vertriebsmitarbeiter kopiert eine Kundenliste samt Umsatzzahlen in einen kostenlosen Online-Chatbot, um daraus eine Präsentation zu erstellen. Die vertraulichen Daten liegen damit auf Servern eines externen Anbieters, außerhalb jeder Kontrolle des Unternehmens; vergleichbare Vorfälle sind öffentlich dokumentiert.

Empfohlene Gegenmaßnahmen (7)

Vergleichen Sie Wirkung und Umsetzungsebene. Die ergänzende Einordnung und Begründung können Sie bei Bedarf aufklappen.

  • AI-Nutzungsrichtlinie und interne Kommunikation

    Governance & Compliance
    Wirkung
    Präventiv
    Umsetzungsebene
    Organisation, Nutzung & Betrieb
    Einordnung und Begründung

    Ergänzende MaßnahmenartOrganisatorisch & prozessual

    Primär der Maßnahmenart Governance & Compliance zugeordnet: Verbindliche Nutzungsregeln, Zuständigkeiten und Einsatzgrenzen steuern den KI-Einsatz; Kommunikation und Kontrollprozesse setzen sie im Alltag um.

  • Katalog genehmigter KI-Werkzeuge

    Governance & Compliance
    Wirkung
    Präventiv
    Umsetzungsebene
    Organisation, Nutzung & Betrieb
    Einordnung und Begründung

    Ergänzende MaßnahmenartOrganisatorisch & prozessual

    Primär der Maßnahmenart Governance & Compliance zugeordnet: Verbindliche Regeln, Kontrollziele oder Aufsicht bestimmen Zulässigkeit und Rechenschaft; ergänzt durch verbindliche Abläufe.

  • Egress-Monitoring für Traffic zu KI-Diensten

    Technisch
    Wirkung
    Aufdeckend
    Umsetzungsebene
    Infrastruktur, Nutzung & Betrieb
    Einordnung und Begründung

    Ergänzende MaßnahmenartOrganisatorisch & prozessual

    Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren; ergänzt durch verbindliche Abläufe.

  • Awareness-Trainings zur Datenklassifikation

    Mensch & Kompetenz
    Wirkung
    Präventiv
    Umsetzungsebene
    Organisation, Nutzung & Betrieb
    Einordnung und Begründung

    Ergänzende MaßnahmenartOrganisatorisch & prozessual

    Primär der Maßnahmenart Mensch & Kompetenz zugeordnet: Wissen, Aufmerksamkeit oder fachliches Urteil von Personen erzeugen die Schutzentscheidung; ergänzt durch verbindliche Abläufe.

  • DLP-Kontrollen für Daten-Flüsse zu KI-Diensten

    Technisch
    Wirkung
    Präventiv, Aufdeckend
    Umsetzungsebene
    Daten, Anwendung, API & Agenten, Nutzung & Betrieb
    Einordnung und Begründung

    Ergänzende MaßnahmenartOrganisatorisch & prozessual

    Primär technisch: Systemseitige Prüf-, Transformations- oder Blockierregeln stoppen oder neutralisieren unzulässige Inhalte vor der Weiterverarbeitung; ergänzt durch verbindliche Abläufe.

  • Genehmigtes Unternehmens-KI-Angebot bereitstellen

    Organisatorisch & prozessual
    Wirkung
    Präventiv
    Umsetzungsebene
    Anwendung, API & Agenten, Organisation, Nutzung & Betrieb
    Einordnung und Begründung

    Ergänzende MaßnahmenartGovernance & Compliance, Technisch

    Primär organisatorisch & prozessual: Festgelegte Auswahl-, Betriebs- oder Lebenszyklusabläufe machen die Maßnahme verbindlich und wiederholbar; ergänzt durch Regeln und Aufsicht sowie technische Umsetzung.

  • Regelmäßige Audits der KI-Nutzung

    Organisatorisch & prozessual
    Wirkung
    Aufdeckend
    Umsetzungsebene
    Organisation, Nutzung & Betrieb
    Einordnung und Begründung

    Ergänzende MaßnahmenartGovernance & Compliance

    Primär organisatorisch & prozessual: Ein geplanter, wiederholbarer Prüfablauf mit Zuständigkeit und Nachverfolgung erzeugt die Schutzwirkung; ergänzt durch Regeln und Aufsicht.

Standard-Zuordnungen

Verifizierte Fundstellen in OWASP, NIST AI RMF, MITRE ATLAS, EU AI Act und weiteren Rahmenwerken. Die Zuordnungen zeigen fachliche Bezüge. Sie belegen nicht, dass ein System die jeweiligen Anforderungen erfüllt.

OWASP LLM Top 10 LLM02:2026 · LLM04:2026NIST AI RMF Abschnitt 2.12 · NISTAML.05EU AI Act Article 4DSGVO Article 25(1)–(2)BIML BIML-LLM inference:10 · BIML78 inference:5

Belegte Referenzen (8)

Jede Referenz nennt Rahmenwerk, Fundstelle und die herausgebende Organisation.

Pflichten der KI-Verordnung zu dieser Bedrohung

Die Pflichten aus dem Pflichtenkompass, deren Artikel der Katalog dieser Bedrohung zuordnet. Jede führt auf ihren Eintrag mit Kern, Handlungsschritt und Nachweis; ob sie Sie trifft, hängt von Rolle und Risikoklasse ab.

  • KI-Kompetenz des Personals unterstützen Art. 4 · gilt ab 2. Februar 2025 · geändert durch VO 2026/1744

    Gesetzliche Rollen: Anbieter, Betreiber, Produkthersteller, Anbieter eines KI-Modells mit allgemeinem Verwendungszweck. Klassen: Verbotene Praktik, Hochrisiko nach Anhang III, Hochrisiko als Produkt oder Sicherheitsbauteil, Transparenzpflichtiges System, KI-Modell mit allgemeinem Verwendungszweck, Modell mit systemischem Risiko, Minimales Risiko.

    Die Verordnung (EU) 2026/1744 hat Art. 4 neu gefasst. Aus der Pflicht, KI-Kompetenz sicherzustellen, ist die Pflicht geworden, ihre Entwicklung zu unterstützen. Ausdrücklich klargestellt ist nun: Ein bestimmtes individuelles Kompetenzniveau ist nicht zu garantieren. Die Pflicht als solche bleibt bestehen und gilt seit dem 2. Februar 2025. Der Wortlaut knüpft an KI-Systeme an; wer ausschließlich ein Modell mit allgemeinem Verwendungszweck anbietet, wird davon erfasst, soweit er auch Systeme anbietet oder betreibt.

    Der Verweis ist ein Prüfanlass. Ein Bedrohungstreffer allein begründet keine Anwendbarkeit.

Alle 62 Pflichten nach Rolle, Risikoklasse und Frist im Pflichtenkompass

Begriffe auf dieser Seite

Fachbegriffe aus dem Glossar, die in diesem Eintrag vorkommen. Jeder Verweis führt zur vollständigen Erklärung.

Weitere Einträge aus der Themengruppe Verlässlichkeit und verantwortliche Nutzung.

Übermäßiges Vertrauen in das KI-System Menschen neigen dazu, überzeugend klingende KI-Ausgaben ungeprüft zu übernehmen (Automatisierungsbias). Faktische Fehler (Halluzinationen) KI-Sprachmodelle erzeugen mitunter Inhalte, die überzeugend klingen, aber frei erfunden sind (Halluzinationen), darunter Zitate, Zahlen, … Modell-Drift & -Degradation Die Qualität eines KI-Modells nimmt im Betrieb allmählich ab, weil sich die Welt verändert, während das Modell auf altem Wissensstand …

Passende Anwendungsfälle

Die Liste zeigt, wo Sie diese Bedrohung prüfen, nicht wie hoch das Risiko ist.

Bei 47 weiteren Anwendungsfällen hängt es vom Aufbau des Systems ab, etwa davon, ob es neben KI-Diensten im Einsatz ist, die niemand freigegeben hat. Diese Anwendungsfälle zeigen

Häufige Fragen

Worum geht es bei dieser Bedrohung?
Beschäftigte oder Fachbereiche nutzen KI-Dienste ohne Freigabe und Aufsicht des Unternehmens (Schatten-KI). Vertrauliche Daten fließen dabei an externe Anbieter ab, und es entstehen Compliance-Lücken sowie eine unkontrollierte Angriffsfläche.
Welche Gegenmaßnahmen nennt der Katalog?
Der Katalog nennt 7 Gegenmaßnahmen, jede mit Maßnahmenart, Wirkung und Umsetzungsebene. Beispiele sind: AI-Nutzungsrichtlinie und interne Kommunikation, Katalog genehmigter KI-Werkzeuge und Egress-Monitoring für Traffic zu KI-Diensten. Die Reihenfolge ist keine Priorisierung.
Welche Pflichten der KI-Verordnung können relevant sein?
Der Katalog ordnet diese Bedrohung Art. 4 der EU-KI-Verordnung zu. Daraus folgen im Pflichtenkompass: KI-Kompetenz des Personals unterstützen. Ob eine Pflicht gilt, entscheiden Rolle, Risikoklasse und Frist.

Diese Bedrohung im eigenen System bewerten

Die Live-Demo enthält alle 52 Bedrohungen dieses Katalogs sowie die Einordnung nach der EU-KI-Verordnung und die Datenschutzprüfung. Die kostenlosen Einzelmodule decken KI-Risiko, EU-KI-VO und DSGVO ab. Ohne Registrierung; die Bewertung läuft lokal in Ihrem Browser.

Live-Demo starten Kostenlose Module ansehen

Diesen Eintrag zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diesen Eintrag.

„Shadow AI (nicht genehmigte Nutzung von KI-Diensten)“. Versatile AI Risk Assessment, KI-Bedrohungskatalog, Stand Oktober 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/bedrohungen/shadow-ai/

← Zurück zum vollständigen Katalog