Versatile AI Risk Assessment

Glossar Bedrohungen und Schwächen

Prompt Injection

Manipulierte Eingaben oder eingeschleuste Inhalte steuern ein Sprachmodell um.

Stand: September 2026 · Glossar mit 46 Begriffen

Bedeutung und Einordnung

Prompt Injection bezeichnet Angriffe, bei denen manipulierte Eingaben oder eingeschleuste Inhalte das Verhalten eines Sprachmodells umsteuern sollen. Direkte Angriffe stehen in der Eingabe; indirekte Angriffe etwa in abgerufenen Dokumenten, Webseiten oder E-Mails. Ziel kann sein, vertrauliche Daten auszuleiten oder unerlaubte Handlungen auszulösen.

Kontrollen kombinieren die Trennung von Anweisungen und nicht vertrauenswürdigen Inhalten, begrenzte Werkzeugrechte, Ein- und Ausgabeprüfungen sowie Angriffstests. Kein einzelner Filter garantiert Schutz. Halten Sie fest, welche Angriffe geprüft wurden und welche Risiken verbleiben.

Quellen zur Einordnung: OWASP LLM01:2025

OWASP LLM01:2025MITRE ATLASEU AI Act Art. 15

Bedrohungen mit diesem Begriff (10)

Die ersten 8 von 10 Einträgen des Bedrohungskatalogs, in deren Text der Begriff vorkommt. Jeder Verweis führt zur vollständigen Bedrohungsseite.

Prompt Injection – Direkt Angreifer schreiben Anweisungen direkt in ihre Eingabe, damit das KI-System seine ursprünglichen Vorgaben ignoriert und stattdessen ihren … Prompt Injection – Indirekt Bösartige Anweisungen stecken versteckt in externen Inhalten wie Dokumenten, Webseiten oder E-Mails. Extraktion des Meta-Prompts Angreifer bringen das KI-System dazu, seinen verborgenen System-Prompt, seine Konfiguration oder interne Instruktionen preiszugeben. Offenlegung sensibler Informationen Ein KI-System gibt unbeabsichtigt vertrauliche Informationen preis: Geschäftsgeheimnisse, personenbezogene Daten, Zugangsdaten oder … Exfiltration aus der ML-Anwendung Angreifer oder Innentäter kopieren unbefugt Daten, Modellgewichte oder Konfigurationen direkt aus einer produktiven KI-Anwendung, indem … Unsicheres Tool-Design Viele KI-Anwendungen handeln selbst, indem sie über angebundene Werkzeuge (Tools) E-Mails versenden oder Datenbanken abfragen. Excessive Agency (übermäßige Handlungsermächtigung) Ein KI-System erhält mehr Berechtigungen oder Entscheidungsfreiheit, als seine Aufgabe erfordert. Agenten-KI / Autonome Agenten KI-Agenten planen mehrstufige Aufgaben selbstständig und führen sie mit Werkzeugen wie E-Mail, Datenbanken oder Codeausführung aus.

Weitere Begriffe aus dem Themenfeld Bedrohungen und Schwächen.

Halluzination (Konfabulation) Plausibel klingende, sachlich falsche Ausgaben, die systembedingt entstehen. Data Poisoning Manipulierte Trainings- oder Referenzdaten lenken ein Modell gezielt in die Irre. Model Theft und Modell-Extraktion Diebstahl der Modellgewichte oder Rekonstruktion des Modells über die Schnittstelle.

Passende Inhalte in der Wissensbasis

Vertiefen Sie das Thema über den folgenden Verweis. In der Glossarübersicht finden Sie weitere Begriffe, geordnet nach Themenfeld.

Zur Bedrohungsgruppe Prompt-Angriffe im Katalog Alle Begriffe im Glossar

Diesen Begriff zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diese Begriffsseite.

„Prompt Injection“. Versatile AI Risk Assessment, Glossar der KI-Risikoanalyse, Stand September 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/glossar/prompt-injection/

← Zurück zum Glossar