KI-BedrohungskatalogSchädliche InhalteProduktion
Kontroverse Themen
Das KI-System äußert sich zu politisch, religiös oder ethisch polarisierenden Themen oder gibt riskante Fachauskünfte, etwa zu Gesundheit, Finanzen oder Wahlverfahren.
Beschreibung
Ob ein solcher Beitrag schadet, hängt stark vom Einsatzkontext ab. Problematisch wird es, wenn das Modell in sensiblen Feldern Position bezieht und damit eine zugesagte Neutralität verletzt, wenn es riskante Spezialberatung in Gesundheits-, Finanz- oder Rechtsfragen erteilt oder wenn es sachlich falsche Informationen über Wahlen und Abstimmungen verbreitet. Auslöser sind entsprechende Nutzerfragen; die Ausgaben erscheinen meist sachlich und überzeugend, auch wenn sie einseitig oder unzutreffend sind.
Mögliche Auswirkung
Für den Betreiber drohen die Verprellung von Nutzergruppen, der Bruch von Neutralitätszusagen und aufsichtsrechtliche Aufmerksamkeit, etwa bei Wahlinhalten oder Gesundheitsaussagen. Fehlerhafte Spezialberatung kann bei den betroffenen Personen zu realem Schaden führen, wenn sie ungeprüft übernommen wird.
Beispiel
Ein Unternehmens-Chatbot beantwortet eine Frage nach einer politischen Wahlempfehlung mit einer einseitigen Stellungnahme, oder ein Gesundheitsassistent gibt eine unbelegte Behandlungsempfehlung ab.
Empfohlene Gegenmaßnahmen (5)
Jede Maßnahme nennt ihre Maßnahmenart, Wirkung, Umsetzungsebene und die Begründung der Einordnung.
Training auf ausgewogene PerspektivenTechnisch
- Wirkung
- Präventiv
- Umsetzungsebene
- Daten, Modell & Training
- Begründung der Einordnung
- „Training auf ausgewogene Perspektiven“ ist primär technisch: Ein Modell-, Trainings- oder Datenverfahren verändert Systemverhalten oder Robustheit unmittelbar.
Themen-Klassifikation und Handhabungs-RichtlinienTechnisch
- Wirkung
- Präventiv, Aufdeckend
- Umsetzungsebene
- Anwendung, API & Agenten, Organisation
- Ergänzende Maßnahmenart
- Governance & Compliance
- Begründung der Einordnung
- „Themen-Klassifikation und Handhabungs-Richtlinien“ ist primär technisch: Systemseitige Prüf-, Transformations- oder Blockierregeln stoppen oder neutralisieren unzulässige Inhalte vor der Weiterverarbeitung; ergänzt durch Regeln und Aufsicht.
Automatisches Einfügen von DisclaimernTechnisch
- Wirkung
- Präventiv
- Umsetzungsebene
- Anwendung, API & Agenten, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Mensch & Kompetenz
- Begründung der Einordnung
- „Automatisches Einfügen von Disclaimern“ ist primär technisch: Die Anwendung macht Unsicherheit, Systemgrenzen oder sichere nächste Schritte sichtbar und unterstützt informierte Entscheidungen; ergänzt durch Fachwissen und Urteil.
Ablehnung sensibler politischer AnfragenTechnisch
- Wirkung
- Präventiv
- Umsetzungsebene
- Anwendung, API & Agenten
- Begründung der Einordnung
- „Ablehnung sensibler politischer Anfragen“ ist primär technisch: Systemseitige Prüf-, Transformations- oder Blockierregeln stoppen oder neutralisieren unzulässige Inhalte vor der Weiterverarbeitung.
Redaktionelle Aufsicht bei PublikationenOrganisatorisch & prozessual
- Wirkung
- Präventiv
- Umsetzungsebene
- Organisation, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Mensch & Kompetenz
- Begründung der Einordnung
- „Redaktionelle Aufsicht bei Publikationen“ ist primär organisatorisch & prozessual: Ein verbindlicher Arbeitsablauf verlangt vor Nutzung oder Ausführung eine verantwortliche menschliche Entscheidung; ergänzt durch Fachwissen und Urteil.
Standard-Zuordnungen
Verifizierte Fundstellen in OWASP, NIST AI RMF, MITRE ATLAS, EU AI Act und weiteren Rahmenwerken. Die Zuordnungen sind taxonomisch, kein Konformitätsnachweis.
Belegte Referenzen (6)
Jede Referenz nennt Rahmenwerk, Fundstelle und die herausgebende Organisation.
- OWASP LLM Top 10 LLM09:2025 MisinformationLLM09:2025 Misinformation, official category page OWASP FoundationOriginal
- NIST AI RMF Abschnitt 2.6 Harmful Bias and HomogenizationAbschnitt 2.6, pp. 8–9 National Institute of Standards and Technology (NIST)Original
- NIST AI RMF MEASURE 2.11 MEASURE 2.11MEASURE 2.11, p. 30 National Institute of Standards and Technology (NIST)Original
- MITRE ATLAS AML.T0048.002 Societal HarmATLAS.yaml technique object with id AML.T0048.002 (pinned release v5.6.0) MITREOriginal
- EU AI Act Article 55(1)(b) Obligations of providers of general-purpose AI models with systemic riskArticle 55(1)(b) European Union (EUR-Lex)Original
- EU AI Act Article 9(1), 9(2)(a), 9(2)(d) Risk management systemArticle 9(1), 9(2)(a), 9(2)(d), read with Article 9(3) European Union (EUR-Lex)Original
Verwandte Bedrohungen
Weitere Einträge aus der Themengruppe Schädliche Inhalte.
Diese Bedrohung im eigenen System bewerten
Die Live-Demo enthält alle 52 Bedrohungen dieses Katalogs samt EU-AI-Act- und DSGVO-Einwertung. Die kostenlosen Einzelmodule decken KI-Risiko, EU-KI-VO und DSGVO ab. Ohne Registrierung; die Bewertung läuft lokal in Ihrem Browser.
Diesen Eintrag zitieren
Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diesen Eintrag.
„Kontroverse Themen“. Versatile AI Risk Assessment, KI-Bedrohungskatalog, Stand Juli 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/bedrohungen/kontroverse-themen/