Rahmenwerke Praxisorientierte Risikoübersicht OWASP Foundation
OWASP Top 10 für LLM-Anwendungen
Die OWASP Top 10 beschreiben zentrale Sicherheitsrisiken von Anwendungen mit großen Sprachmodellen und zeigen geeignete Gegenmaßnahmen auf.
Inhalte und Zweck
Die OWASP Foundation ist eine gemeinnützige Organisation für Anwendungssicherheit. Ihre Top-10-Listen bieten Orientierung für die sichere Entwicklung und Prüfung von Software.
Die Top 10 für LLM-Anwendungen beschreiben zehn zentrale Sicherheitsrisiken, darunter Prompt Injection und unkontrollierten Ressourcenverbrauch. Zu jedem Risiko erläutern sie typische Schwachstellen, Angriffsszenarien und Gegenmaßnahmen.
Die ergänzende Liste für KI-Agenten behandelt Risiken autonom handelnder Systeme. Dazu zählen die Manipulation von Agentenzielen, der Missbrauch angebundener Werkzeuge und die gezielte Veränderung gespeicherter Informationen und Kontextdaten.
Bezüge zum Bedrohungskatalog
Die folgenden Zuordnungen zeigen, welche Bedrohungen der Katalog mit diesem Rahmenwerk verknüpft. Für 45 von insgesamt 52 Bedrohungen sind entsprechende Bezüge dokumentiert. Die Übersicht zeigt ihre Verteilung nach Themengruppen.
7 Bedrohungen ohne zugeordnete Fundstelle
Für diese Bedrohungen ist im Katalog keine Fundstelle aus diesem Rahmenwerk hinterlegt. Ob die Originalquellen das Thema dennoch behandeln, muss gesondert geprüft werden. Bezüge zu anderen Rahmenwerken finden Sie auf den jeweiligen Bedrohungsseiten.
- Anwendungs-Schwachstellen Anwendungs- und Integrationssicherheit
- Denial-of-Service auf die Anwendung Angriffe auf Modell und Betrieb
- Obszöne Sprache / Profanität Schädliche Inhalte
- Belästigung Schädliche Inhalte
- Unethisches Verhalten Schädliche Inhalte
- Social Engineering Missbrauch für Angriffe, Betrug und Desinformation
- Betrug Missbrauch für Angriffe, Betrug und Desinformation
Zur Auswertung: Rahmenwerke kombinieren und Zuordnungen vergleichen
Zugeordnete Bedrohungen (45)
Die Bedrohungen sind nach Themen geordnet. Wählen Sie einen Eintrag, um die Beschreibung, mögliche Auswirkungen und Gegenmaßnahmen aufzurufen.
Angriffe auf Modell und Betrieb
6 BedrohungenAnwendungs- und Integrationssicherheit
6 BedrohungenAutonome KI und Agenten
5 BedrohungenDatenschutz und Datenabfluss
4 BedrohungenLieferkette und Herkunft
3 BedrohungenManipulation von Modell und Trainingsdaten
4 BedrohungenMissbrauch für Angriffe, Betrug und Desinformation
2 BedrohungenPrompt-Angriffe und Umgehung von Schutzmechanismen
5 BedrohungenSchädliche Inhalte
6 BedrohungenVerlässlichkeit und verantwortliche Nutzung
4 BedrohungenKeine passenden Bedrohungen gefunden. Ändern Sie den Suchbegriff oder setzen Sie die Filter zurück.
Verwendete Quellen (11)
Die Zuordnungen beruhen auf den hier aufgeführten Dokumentfassungen. Auf den jeweiligen Quellenseiten finden Sie Angaben zu Herausgeber und Stand sowie die Fundstellen und zugeordneten Bedrohungen.
Die Verweise führen zu den verwendeten Originalquellen. Maßgeblich ist der Wortlaut der jeweiligen Veröffentlichung. Eine Zuordnung im Katalog zeigt einen fachlichen Bezug; sie ist kein Nachweis dafür, dass ein KI-System die beschriebenen Anforderungen erfüllt.
Die Top 10 helfen, Schwerpunkte für Entwicklung und Sicherheitstests zu setzen. Eine vollständige Sicherheitsprüfung oder eine Zertifizierung lässt sich daraus nicht ableiten.
Weitere Rahmenwerke
Die Rahmenwerke setzen unterschiedliche Schwerpunkte: rechtliche Anforderungen, organisatorisches Risikomanagement und technische Sicherheit. Hier finden Sie die weiteren Perspektiven, die der Katalog berücksichtigt.
Vom Rahmenwerk zur Bewertung
Nutzen Sie den Bedrohungskatalog, um mögliche Auswirkungen, geeignete Gegenmaßnahmen und die zugehörigen Quellen zu prüfen. Die Live-Demo läuft ohne Registrierung lokal in Ihrem Browser.
Diese Seite zitieren
Übernehmen Sie diese Quellenangabe in Berichte, Richtlinien oder interne Unterlagen. Der enthaltene Link führt direkt zu dieser Seite.
„OWASP Top 10 für LLM-Anwendungen“ (OWASP Foundation). Zuordnungen im KI-Bedrohungskatalog, Versatile AI Risk Assessment, Stand Juli 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/rahmenwerke/owasp-top-10-llm-anwendungen/