Rahmenwerke Behördlicher Leitfaden Bundesamt für Sicherheit in der Informationstechnik (BSI)
BSI-Leitfäden zu generativer KI
Die BSI-Leitfäden erläutern Risiken generativer KI und geeignete Schutzmaßnahmen für Unternehmen und Behörden.
Inhalte und Zweck
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) ist die Cybersicherheitsbehörde des Bundes. Es unterstützt Unternehmen und öffentliche Einrichtungen mit Empfehlungen zur Informationssicherheit.
Die Veröffentlichung „Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden“ beschreibt Risiken bei der regulären Nutzung, durch Missbrauch und durch gezielte Angriffe. Sie erläutert dazu passende Gegenmaßnahmen.
Der Leitfaden unterstützt Unternehmen und Behörden dabei, den Einsatz generativer KI vorzubereiten und Risiken im jeweiligen Anwendungskontext zu bewerten.
Bezüge zum Bedrohungskatalog
Die folgenden Zuordnungen zeigen, welche Bedrohungen der Katalog mit diesem Rahmenwerk verknüpft. Für 40 von insgesamt 52 Bedrohungen sind entsprechende Bezüge dokumentiert. Die Übersicht zeigt ihre Verteilung nach Themengruppen.
12 Bedrohungen ohne zugeordnete Fundstelle
Für diese Bedrohungen ist im Katalog keine Fundstelle aus diesem Rahmenwerk hinterlegt. Ob die Originalquellen das Thema dennoch behandeln, muss gesondert geprüft werden. Bezüge zu anderen Rahmenwerken finden Sie auf den jeweiligen Bedrohungsseiten.
- Cost Harvesting / Zweckentfremdung Angriffe auf Modell und Betrieb
- Anwendungs-Schwachstellen Anwendungs- und Integrationssicherheit
- Denial-of-Service auf die Anwendung Angriffe auf Modell und Betrieb
- Kontroverse Themen Schädliche Inhalte
- Selbstverletzung Schädliche Inhalte
- Unethisches Verhalten Schädliche Inhalte
- Multimodale Angriffe Prompt-Angriffe und Umgehung von Schutzmechanismen
- Middleware-Exploits (Angriffe auf AI-Frameworks) Anwendungs- und Integrationssicherheit
- Seitenkanal-Angriffe (Timing-Analyse) Angriffe auf Modell und Betrieb
- Shadow AI (nicht genehmigte Nutzung von KI-Diensten) Verlässlichkeit und verantwortliche Nutzung
- Agenten-Memory-Poisoning (persistenter Kontext) Autonome KI und Agenten
- Unsichere Inter-Agent-Kommunikation (A2A/MCP) Autonome KI und Agenten
Zur Auswertung: Rahmenwerke kombinieren und Zuordnungen vergleichen
Zugeordnete Bedrohungen (40)
Die Bedrohungen sind nach Themen geordnet. Wählen Sie einen Eintrag, um die Beschreibung, mögliche Auswirkungen und Gegenmaßnahmen aufzurufen.
Angriffe auf Modell und Betrieb
4 BedrohungenAnwendungs- und Integrationssicherheit
5 BedrohungenAutonome KI und Agenten
3 BedrohungenDatenschutz und Datenabfluss
4 BedrohungenLieferkette und Herkunft
3 BedrohungenManipulation von Modell und Trainingsdaten
4 BedrohungenMissbrauch für Angriffe, Betrug und Desinformation
4 BedrohungenPrompt-Angriffe und Umgehung von Schutzmechanismen
4 BedrohungenSchädliche Inhalte
6 BedrohungenVerlässlichkeit und verantwortliche Nutzung
3 BedrohungenKeine passenden Bedrohungen gefunden. Ändern Sie den Suchbegriff oder setzen Sie die Filter zurück.
Verwendete Quellen (1)
Die Zuordnungen beruhen auf den hier aufgeführten Dokumentfassungen. Auf den jeweiligen Quellenseiten finden Sie Angaben zu Herausgeber und Stand sowie die Fundstellen und zugeordneten Bedrohungen.
Die Verweise führen zu den verwendeten Originalquellen. Maßgeblich ist der Wortlaut der jeweiligen Veröffentlichung. Eine Zuordnung im Katalog zeigt einen fachlichen Bezug; sie ist kein Nachweis dafür, dass ein KI-System die beschriebenen Anforderungen erfüllt.
Der Leitfaden enthält fachliche Empfehlungen und ist selbst keine Rechtsnorm. Welche Maßnahmen für eine Organisation verbindlich sind, ist anhand der jeweils geltenden Vorgaben zu prüfen.
Weitere Rahmenwerke
Die Rahmenwerke setzen unterschiedliche Schwerpunkte: rechtliche Anforderungen, organisatorisches Risikomanagement und technische Sicherheit. Hier finden Sie die weiteren Perspektiven, die der Katalog berücksichtigt.
Vom Rahmenwerk zur Bewertung
Nutzen Sie den Bedrohungskatalog, um mögliche Auswirkungen, geeignete Gegenmaßnahmen und die zugehörigen Quellen zu prüfen. Die Live-Demo läuft ohne Registrierung lokal in Ihrem Browser.
Diese Seite zitieren
Übernehmen Sie diese Quellenangabe in Berichte, Richtlinien oder interne Unterlagen. Der enthaltene Link führt direkt zu dieser Seite.
„BSI-Leitfäden zu generativer KI“ (Bundesamt für Sicherheit in der Informationstechnik (BSI)). Zuordnungen im KI-Bedrohungskatalog, Versatile AI Risk Assessment, Stand Juli 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/rahmenwerke/bsi-generative-ki/