Versatile AI Risk Assessment

Glossar Bedrohungen und Schwächen

Prompt Injection

Manipulierte Eingaben oder eingeschleuste Inhalte steuern ein Sprachmodell um.

Stand: September 2026 · Glossar mit 28 Begriffen

Bedeutung und Einordnung

Prompt Injection bezeichnet Angriffe, bei denen manipulierte Eingaben oder eingeschleuste Inhalte (etwa in Dokumenten, Webseiten oder E-Mails) das Verhalten eines Sprachmodells umsteuern. Das Modell folgt dann Anweisungen des Angreifers statt den Vorgaben des Betreibers, zum Beispiel zum Ausleiten vertraulicher Daten oder zum Umgehen von Schutzregeln.

Wirksame Kontrollen kombinieren Eingabe- und Ausgabefilter, die strikte Trennung von Anweisungen und Daten, minimale Berechtigungen für angebundene Werkzeuge sowie Tests mit bekannten Angriffsmustern. Die Restrisiken bleiben dokumentationspflichtig, weil kein Filter vollständig schützt.

OWASP LLM01:2025MITRE ATLASEU AI Act Art. 15

Bedrohungen mit diesem Begriff (10)

Die ersten 8 von 10 Einträgen des Bedrohungskatalogs, in deren Text der Begriff vorkommt. Jeder Verweis führt zur vollständigen Bedrohungsseite.

Prompt Injection – Direkt Angreifer schreiben Anweisungen direkt in ihre Eingabe, damit das KI-System seine ursprünglichen Vorgaben ignoriert und stattdessen ihren … Prompt Injection – Indirekt Bösartige Anweisungen stecken versteckt in externen Inhalten wie Dokumenten, Webseiten oder E-Mails. Extraktion des Meta-Prompts Angreifer bringen das KI-System dazu, seinen verborgenen System-Prompt, seine Konfiguration oder interne Instruktionen preiszugeben. Offenlegung sensibler Informationen Ein KI-System gibt unbeabsichtigt vertrauliche Informationen preis: Geschäftsgeheimnisse, personenbezogene Daten, Zugangsdaten oder … Exfiltration aus der ML-Anwendung Angreifer oder Innentäter kopieren unbefugt Daten, Modellgewichte oder Konfigurationen direkt aus einer produktiven KI-Anwendung, indem … Unsicheres Tool-Design Viele KI-Anwendungen handeln selbst, indem sie über angebundene Werkzeuge (Tools) E-Mails versenden oder Datenbanken abfragen. Excessive Agency (übermäßige Handlungsermächtigung) Ein KI-System erhält mehr Berechtigungen oder Entscheidungsfreiheit, als seine Aufgabe erfordert. Agenten-KI / Autonome Agenten KI-Agenten planen mehrstufige Aufgaben selbstständig und führen sie mit Werkzeugen wie E-Mail, Datenbanken oder Codeausführung aus.

Weitere Begriffe aus dem Themenfeld Bedrohungen und Schwächen.

Halluzination (Konfabulation) Plausibel klingende, sachlich falsche Ausgaben, die systembedingt entstehen. Data Poisoning Manipulierte Trainings- oder Referenzdaten lenken ein Modell gezielt in die Irre. Model Theft und Modell-Extraktion Diebstahl der Modellgewichte oder Rekonstruktion des Modells über die Schnittstelle.

Passende Inhalte in der Wissensbasis

Vertiefen Sie das Thema über den folgenden Verweis. In der Glossarübersicht finden Sie weitere Begriffe, geordnet nach Themenfeld.

Zur Bedrohungsgruppe Prompt-Angriffe im Katalog Alle Begriffe im Glossar

Diesen Begriff zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diese Begriffsseite.

„Prompt Injection“. Versatile AI Risk Assessment, Glossar der KI-Risikoanalyse, Stand September 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/glossar/prompt-injection/

← Zurück zum Glossar