Quellenverzeichnis Berryville Institute of Machine Learning (BIML) v1.0 (2024-01-24)

Architekturrisiken großer Sprachmodelle

Originaltitel: An Architectural Risk Analysis of Large Language Models: Applied Machine Learning Security

Hier finden Sie die im Katalog verwendete Dokumentfassung und die Fundstellen, die den einzelnen Bedrohungen zugeordnet sind.

Stand: Oktober 2026 · Katalogversion 2026.10.24.2

Angaben zum Dokument

Herausgeber: Berryville Institute of Machine Learning (BIML)
Herangezogener Stand: v1.0 (2024-01-24)
Jahr: 2024
Lizenz: CC BY-SA 4.0 International
Rahmenwerk: BIML

Originaldokument beim Herausgeber öffnen Externer Verweis; maßgeblich ist immer die Fassung des Herausgebers.

Fundstellen im Katalog (20)

Die Tabelle nennt die jeweilige Kennung, den Titel und die Fundstelle im Originaldokument sowie die zugeordneten Bedrohungen.

Fundstellen dieses Dokuments mit den zugeordneten Bedrohungen
Kennung	Titel und Fundstelle	Zugeordnete Bedrohungen
`BIML-LLM inference:1`	Prompt Manipulation (Aka Prompt Injection) PDF p. 18, [inference:1:prompt manipulation (aka prompt injection)]	Jailbreaks
`BIML-LLM inference:10`	User Risk PDF p. 19, [inference:10:user risk]	Offenlegung sensibler Informationen Anwendungs-Schwachstellen Shadow AI (nicht genehmigte Nutzung von KI-Diensten)
`BIML-LLM inference:3`	Wrongness PDF p. 18, [inference:3:wrongness]	Faktische Fehler (Halluzinationen)
`BIML-LLM inference:8`	Unstructured Output PDF p. 19, [inference:8:unstructured output]	Unsicherer Umgang mit Modellausgaben
`BIML-LLM inference:9`	Hosting PDF p. 19, [inference:9:hosting]	Lieferkette – Infrastruktur Anwendungs-Schwachstellen Denial-of-Service auf die Anwendung
`BIML-LLM input:2`	Prompt Injection PDF p. 16, [input:2:prompt injection]	Prompt Injection – Direkt Prompt Injection – Indirekt
`BIML-LLM input:3`	Open to the Public PDF p. 16, [input:3:open to the public]	Jailbreaks Modell-Reconnaissance
`BIML-LLM input:5`	Sponge Input PDF p. 17, [input:5:sponge input]	Denial-of-Service auf das Modell
`BIML-LLM LLMtop10:2`	Data Debt PDF p. 12, [LLMtop10:2:data debt]	Lieferkette – Datensätze
`BIML-LLM LLMtop10:5`	Prompt Manipulation PDF p. 13, [LLMtop10:5:prompt manipulation]	Prompt Injection – Direkt Prompt Injection – Indirekt Jailbreaks
`BIML-LLM LLMtop10:6`	Poison in the Data PDF p. 13, [LLMtop10:6:poison in the data]	Lieferkette – Datensätze Vergiftung der Trainingsdaten Gezielte Datenvergiftung / Label-Vergiftung
`BIML-LLM LLMtop10:9`	Model Trustworthiness PDF p. 13, [LLMtop10:9:model trustworthiness]	Übermäßiges Vertrauen in das KI-System Faktische Fehler (Halluzinationen)
`BIML-LLM model:4`	Trojan PDF p. 17, [model:4:Trojan]	Lieferkette – Modelle Backdoor im ML-Modell Sleepy Agent (zeit-/ereignisgetriggerte verdeckte Instruktionen)
`BIML-LLM model:6`	Training Set and Prompt Reveal PDF p. 18, [model:6:training set and prompt reveal]	Extraktion des Meta-Prompts Privacy-Angriffe
`BIML-LLM model:9`	Modality PDF p. 18, [model:9:modality]	Multimodale Angriffe
`BIML-LLM output:11`	Black Box Discrimination PDF p. 20, [output:11:black box discrimination]	Hassrede und Diskriminierung
`BIML-LLM output:12`	Overconfidence PDF p. 20, [output:12:overconfidence]	Übermäßiges Vertrauen in das KI-System
`BIML-LLM raw:10`	Query Data PDF p. 15, [raw:10:query data]	Prompt Injection – Indirekt Faktische Fehler (Halluzinationen)RAG-spezifische Angriffe (Document Poisoning)
`BIML-LLM raw:5`	Data Confidentiality PDF p. 15, [raw:5:data confidentiality]	Privacy-Angriffe Offenlegung sensibler Informationen
`BIML-LLM raw:9`	Time PDF p. 15, [raw:9:time]	Modell-Drift & -Degradation

Diese Seite gibt keine Normtexte wieder. Sie nennt Kennung, Titel und Fundstelle des Abschnitts; der Wortlaut steht im Originaldokument. Die Zuordnungen zeigen fachliche Bezüge. Sie belegen nicht, dass ein System die jeweiligen Anforderungen erfüllt.

Bedrohungen mit Bezug auf dieses Dokument (25)

Nach Themengruppe geordnet. Jeder Eintrag führt zur vollständigen Bedrohungsseite.

Angriffe auf Modell und Betrieb

Anwendungs- und Integrationssicherheit

Datenschutz und Datenabfluss

Lieferkette und Herkunft

Manipulation von Modell und Trainingsdaten

Prompt-Angriffe und Umgehung von Schutzmechanismen

Schädliche Inhalte

Hassrede und Diskriminierung

Verlässlichkeit und verantwortliche Nutzung

Weitere Dokumente desselben Herausgebers

Alle im Katalog belegten Dokumente von Berryville Institute of Machine Learning (BIML).

Vom Beleg zur Bewertung

Der vollständige Katalog nennt zu jeder Bedrohung die Gegenmaßnahmen, die mögliche Auswirkung und alle belegten Fundstellen. Die Live-Demo läuft ohne Registrierung lokal in Ihrem Browser.

Zum Bedrohungskatalog Live-Demo starten

Diese Seite zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diese Quellenseite.

„An Architectural Risk Analysis of Large Language Models: Applied Machine Learning Security“ (Berryville Institute of Machine Learning (BIML)). Fundstellen im KI-Bedrohungskatalog, Versatile AI Risk Assessment, Stand Oktober 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/quellen/biml-architekturanalyse-large-language-models/

← Zurück zum Quellenverzeichnis