Versatile AI Risk Assessment

Glossar Bedrohungen und Schwächen

Jailbreak

Eingaben, die ein Modell dazu bringen, seine eigenen Schutzregeln zu übergehen.

Stand: September 2026 · Glossar mit 28 Begriffen

Bedeutung und Einordnung

Ein Jailbreak ist der gezielte Versuch, die Sicherheitsregeln eines Modells auszuhebeln, etwa durch Rollenspiele, hypothetische Rahmungen, schrittweises Herantasten oder kodierte Eingaben. Anders als bei Prompt Injection kommt die Eingabe hier von der nutzenden Person selbst.

Für Betreiber ist weniger die einzelne Umgehung entscheidend als die Frage, was danach möglich ist. Solange ein Jailbreak nur Text erzeugt, bleibt der Schaden begrenzt; sobald er Werkzeuge, Daten oder Transaktionen erreicht, wird daraus ein Betriebsrisiko. Regelmäßige Tests mit bekannten Mustern gehören in die Freigabe jeder Version.

OWASP LLM01:2025MissbrauchTests

Bedrohungen mit diesem Begriff (5)

Einträge des Bedrohungskatalogs, in deren Text der Begriff vorkommt. Jeder Verweis führt zur vollständigen Bedrohungsseite.

Jailbreaks Mit Tricks wie Rollenspielen, hypothetischen Szenarien oder kodierten Eingaben bringen Angreifer das KI-System dazu, seine … Hassrede und Diskriminierung Das KI-System erzeugt Inhalte, die einzelne Personen oder Gruppen wegen geschützter Merkmale wie Herkunft, Geschlecht, Religion oder … Rechtswidrige Handlungen Das KI-System unterstützt rechtswidrige Handlungen, indem es etwa Anleitungen zu Drogensynthese, Waffenbau, Hacking, Betrug oder zur … Selbstverletzung Das KI-System ermutigt zu Selbstverletzung oder Suizid, gibt Anleitungen dazu oder stellt Mittel dafür bereit. Schadsoftware Angreifer lassen sich von KI-Modellen funktionsfähige Schadsoftware und Angriffswerkzeuge erzeugen oder verbessern.

Weitere Begriffe aus dem Themenfeld Bedrohungen und Schwächen.

Prompt Injection Manipulierte Eingaben oder eingeschleuste Inhalte steuern ein Sprachmodell um. Halluzination (Konfabulation) Plausibel klingende, sachlich falsche Ausgaben, die systembedingt entstehen. Data Poisoning Manipulierte Trainings- oder Referenzdaten lenken ein Modell gezielt in die Irre.

Passende Inhalte in der Wissensbasis

Vertiefen Sie das Thema über den folgenden Verweis. In der Glossarübersicht finden Sie weitere Begriffe, geordnet nach Themenfeld.

Umgehungs-Bedrohungen im Katalog ansehen Alle Begriffe im Glossar

Diesen Begriff zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diese Begriffsseite.

„Jailbreak“. Versatile AI Risk Assessment, Glossar der KI-Risikoanalyse, Stand September 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/glossar/jailbreak/

← Zurück zum Glossar