Versatile AI Risk Assessment

Glossar Bedrohungen und Schwächen

Halluzination (Konfabulation)

Plausibel klingende, sachlich falsche Ausgaben, die systembedingt entstehen.

Stand: September 2026 · Glossar mit 28 Begriffen

Bedeutung und Einordnung

Sprachmodelle erzeugen Texte, die plausibel klingen, aber sachlich falsch sein können: erfundene Fakten, Quellen, Paragrafen oder Programmierschnittstellen. Diese Konfabulationen entstehen systembedingt, weil Modelle Wahrscheinlichkeiten fortschreiben und keine Wissensdatenbank abfragen.

Im Risikomanagement zählt weniger die einzelne Falschausgabe als der Prozess dahinter: fachliche Prüfung vor Verwendung, Kennzeichnung KI-erzeugter Inhalte, Belegpflichten für kritische Aussagen und Messungen der Fehlerrate im eigenen Anwendungsfall.

OWASP LLM09:2025NIST AI RMFVerlässlichkeit

Bedrohungen mit diesem Begriff (1)

Einträge des Bedrohungskatalogs, in deren Text der Begriff vorkommt. Jeder Verweis führt zur vollständigen Bedrohungsseite.

Faktische Fehler (Halluzinationen) KI-Sprachmodelle erzeugen mitunter Inhalte, die überzeugend klingen, aber frei erfunden sind (Halluzinationen), darunter Zitate, Zahlen, …

Weitere Begriffe aus dem Themenfeld Bedrohungen und Schwächen.

Prompt Injection Manipulierte Eingaben oder eingeschleuste Inhalte steuern ein Sprachmodell um. Data Poisoning Manipulierte Trainings- oder Referenzdaten lenken ein Modell gezielt in die Irre. Model Theft und Modell-Extraktion Diebstahl der Modellgewichte oder Rekonstruktion des Modells über die Schnittstelle.

Passende Inhalte in der Wissensbasis

Vertiefen Sie das Thema über den folgenden Verweis. In der Glossarübersicht finden Sie weitere Begriffe, geordnet nach Themenfeld.

Halluzinations-Bedrohungen im Katalog ansehen Alle Begriffe im Glossar

Diesen Begriff zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diese Begriffsseite.

„Halluzination (Konfabulation)“. Versatile AI Risk Assessment, Glossar der KI-Risikoanalyse, Stand September 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/glossar/halluzination/

← Zurück zum Glossar