Versatile AI Risk Assessment

Glossar Bedrohungen und Schwächen

Data Poisoning

Manipulierte Trainings- oder Referenzdaten lenken ein Modell gezielt in die Irre.

Stand: September 2026 · Glossar mit 28 Begriffen

Bedeutung und Einordnung

Beim Data Poisoning manipulieren Angreifer Trainings-, Feinabstimmungs- oder Referenzdaten, damit ein Modell gezielt falsche, verzerrte oder schädliche Ausgaben liefert, oft erst ausgelöst durch bestimmte Eingaben. Betroffen sind auch nachgelagerte Datenquellen wie Vektor-Datenbanken für Retrieval-Verfahren.

Gegenmaßnahmen setzen an der Datenherkunft an: signierte und versionierte Datensätze, Herkunftsnachweise, Ausreißer-Analysen vor dem Training und Regressionstests nach jedem Datenupdate. Die Bewertung gehört in die Lieferketten-Betrachtung des KI-Systems.

OWASP LLM04:2025MITRE ATLAS AMLBIML

Bedrohungen mit diesem Begriff (1)

Einträge des Bedrohungskatalogs, in deren Text der Begriff vorkommt. Jeder Verweis führt zur vollständigen Bedrohungsseite.

Vergiftung der Trainingsdaten Angreifer schleusen manipulierte oder falsche Daten in die Trainingsdaten eines KI-Modells ein.

Weitere Begriffe aus dem Themenfeld Bedrohungen und Schwächen.

Prompt Injection Manipulierte Eingaben oder eingeschleuste Inhalte steuern ein Sprachmodell um. Halluzination (Konfabulation) Plausibel klingende, sachlich falsche Ausgaben, die systembedingt entstehen. Model Theft und Modell-Extraktion Diebstahl der Modellgewichte oder Rekonstruktion des Modells über die Schnittstelle.

Passende Inhalte in der Wissensbasis

Vertiefen Sie das Thema über den folgenden Verweis. In der Glossarübersicht finden Sie weitere Begriffe, geordnet nach Themenfeld.

Poisoning-Bedrohungen im Katalog ansehen Alle Begriffe im Glossar

Diesen Begriff zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diese Begriffsseite.

„Data Poisoning“. Versatile AI Risk Assessment, Glossar der KI-Risikoanalyse, Stand September 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/glossar/data-poisoning/

← Zurück zum Glossar