Rahmenwerke Wissenschaftliche Risikoanalysen Berryville Institute of Machine Learning (BIML)
BIML-Architekturanalysen
Die BIML-Analysen untersuchen Sicherheitsrisiken in den Komponenten und Datenflüssen von KI-Systemen.
Inhalte und Zweck
Das Berryville Institute of Machine Learning (BIML) ist ein unabhängiges Forschungsinstitut mit Schwerpunkt auf der Sicherheit maschinellen Lernens. Zu den Forschern gehört Gary McGraw, der die Softwaresicherheit maßgeblich mitgeprägt hat.
Der Katalog berücksichtigt zwei Architekturanalysen des Instituts: eine zum maschinellen Lernen und eine zu großen Sprachmodellen. Sie untersuchen Komponenten und Datenflüsse von den Rohdaten über die Trainingsphase bis zur Modellausgabe.
Die Analysen helfen, Sicherheitsrisiken bereits beim Entwurf eines KI-Systems zu erkennen und bei Architekturentscheidungen zu berücksichtigen.
Bezüge zum Bedrohungskatalog
Die folgenden Zuordnungen zeigen, welche Bedrohungen der Katalog mit diesem Rahmenwerk verknüpft. Für 29 von insgesamt 52 Bedrohungen sind entsprechende Bezüge dokumentiert. Die Übersicht zeigt ihre Verteilung nach Themengruppen.
23 Bedrohungen ohne zugeordnete Fundstelle
Für diese Bedrohungen ist im Katalog keine Fundstelle aus diesem Rahmenwerk hinterlegt. Ob die Originalquellen das Thema dennoch behandeln, muss gesondert geprüft werden. Bezüge zu anderen Rahmenwerken finden Sie auf den jeweiligen Bedrohungsseiten.
- Cost Harvesting / Zweckentfremdung Angriffe auf Modell und Betrieb
- Unsicheres Tool-Design Anwendungs- und Integrationssicherheit
- Excessive Agency (übermäßige Handlungsermächtigung) Autonome KI und Agenten
- Obszöne Sprache / Profanität Schädliche Inhalte
- Sexuelle Inhalte Schädliche Inhalte
- Gewalt / gefährliche Handlungen Schädliche Inhalte
- Kontroverse Themen Schädliche Inhalte
- Rechtswidrige Handlungen Schädliche Inhalte
- Selbstverletzung Schädliche Inhalte
- Belästigung Schädliche Inhalte
- Unethisches Verhalten Schädliche Inhalte
- Social Engineering Missbrauch für Angriffe, Betrug und Desinformation
- Betrug Missbrauch für Angriffe, Betrug und Desinformation
- Schadsoftware Missbrauch für Angriffe, Betrug und Desinformation
- Desinformation Missbrauch für Angriffe, Betrug und Desinformation
- Misalignment (Fehlausrichtung) Autonome KI und Agenten
- Middleware-Exploits (Angriffe auf AI-Frameworks) Anwendungs- und Integrationssicherheit
- Datenabfluss zwischen Mandanten (Cross-Tenant Leakage) Datenschutz und Datenabfluss
- MCP-Hijacking (Model Context Protocol) Anwendungs- und Integrationssicherheit
- Seitenkanal-Angriffe (Timing-Analyse) Angriffe auf Modell und Betrieb
- Graph-RAG-Vergiftung (Knowledge-Graph-Injection) Anwendungs- und Integrationssicherheit
- Agenten-Memory-Poisoning (persistenter Kontext) Autonome KI und Agenten
- Unsichere Inter-Agent-Kommunikation (A2A/MCP) Autonome KI und Agenten
Zur Auswertung: Rahmenwerke kombinieren und Zuordnungen vergleichen
Zugeordnete Bedrohungen (29)
Die Bedrohungen sind nach Themen geordnet. Wählen Sie einen Eintrag, um die Beschreibung, mögliche Auswirkungen und Gegenmaßnahmen aufzurufen.
Angriffe auf Modell und Betrieb
5 BedrohungenAnwendungs- und Integrationssicherheit
3 BedrohungenAutonome KI und Agenten
1 BedrohungDatenschutz und Datenabfluss
3 BedrohungenLieferkette und Herkunft
3 BedrohungenManipulation von Modell und Trainingsdaten
4 BedrohungenPrompt-Angriffe und Umgehung von Schutzmechanismen
5 BedrohungenSchädliche Inhalte
1 BedrohungVerlässlichkeit und verantwortliche Nutzung
4 BedrohungenKeine passenden Bedrohungen gefunden. Ändern Sie den Suchbegriff oder setzen Sie die Filter zurück.
Verwendete Quellen (2)
Die Zuordnungen beruhen auf den hier aufgeführten Dokumentfassungen. Auf den jeweiligen Quellenseiten finden Sie Angaben zu Herausgeber und Stand sowie die Fundstellen und zugeordneten Bedrohungen.
Die Verweise führen zu den verwendeten Originalquellen. Maßgeblich ist der Wortlaut der jeweiligen Veröffentlichung. Eine Zuordnung im Katalog zeigt einen fachlichen Bezug; sie ist kein Nachweis dafür, dass ein KI-System die beschriebenen Anforderungen erfüllt.
Die Veröffentlichungen liefern eine wissenschaftliche Grundlage für die Risikoanalyse. Für konkrete Prüfungen und den sicheren Betrieb müssen daraus geeignete Kriterien und Maßnahmen abgeleitet werden.
Weitere Rahmenwerke
Die Rahmenwerke setzen unterschiedliche Schwerpunkte: rechtliche Anforderungen, organisatorisches Risikomanagement und technische Sicherheit. Hier finden Sie die weiteren Perspektiven, die der Katalog berücksichtigt.
Vom Rahmenwerk zur Bewertung
Nutzen Sie den Bedrohungskatalog, um mögliche Auswirkungen, geeignete Gegenmaßnahmen und die zugehörigen Quellen zu prüfen. Die Live-Demo läuft ohne Registrierung lokal in Ihrem Browser.
Diese Seite zitieren
Übernehmen Sie diese Quellenangabe in Berichte, Richtlinien oder interne Unterlagen. Der enthaltene Link führt direkt zu dieser Seite.
„BIML-Architekturanalysen“ (Berryville Institute of Machine Learning (BIML)). Zuordnungen im KI-Bedrohungskatalog, Versatile AI Risk Assessment, Stand Juli 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/rahmenwerke/biml-architekturanalysen/