Versatile AI Risk Assessment

KI-BedrohungskatalogAngriffe auf Modell und BetriebProduktion

Modell-Reconnaissance

Angreifer sammeln Informationen über ein produktives Modell, etwa Bauart, verwendete Modellfamilie und Fähigkeiten, um spätere gezieltere Angriffe vorzubereiten. Es ist die Auskundschaftungsphase vor Diebstahl oder Umgehung.

Stand: Juli 2026 · Katalogversion 2026.07.17.3 · 6 Gegenmaßnahmen · 12 belegte Quellen

Beschreibung

Vor einem gezielten Angriff kundschaften Angreifer das eingesetzte Modell aus. Sie tasten über die normale Schnittstelle ab, welche Modellfamilie und Version dahintersteckt (Fingerprinting), welche Architektur vermutlich verwendet wird und welche Fähigkeiten und Ausgabekategorien das Modell hat. Dazu werten sie Antworten, mitgelieferte Metadaten, ausführliche Fehlermeldungen oder öffentlich zugängliche Artefakte aus. Die Auskundschaftung ist meist kein Selbstzweck, sondern die Vorstufe zu Modell-Diebstahl oder zu adversarialen Eingaben, die dann passgenau zugeschnitten werden.

Mögliche Auswirkung

Der unmittelbare Schaden ist gering, doch die gewonnenen Erkenntnisse machen Folgeangriffe deutlich wirksamer und schwerer abzuwehren. Wird die zugrunde liegende Modellfamilie erkannt, lassen sich bekannte Schwachstellen dieser Familie gezielt ausnutzen, zumal viele Dienste auf denselben Basismodellen aufbauen. Zugleich können interne Modell- und Konfigurationsdetails als Geschäftsgeheimnis abfließen.

Beispiel

Ein Angreifer schickt einem KI-Dienst eine Reihe systematischer Testfragen und wertet Formulierungen, Antwortzeiten und Fehlermeldungen aus. Daraus schließt er auf das verwendete Basismodell und richtet seinen nächsten Angriff gezielt auf dessen bekannte Schwächen aus.

Empfohlene Gegenmaßnahmen (6)

Jede Maßnahme nennt ihre Maßnahmenart, Wirkung, Umsetzungsebene und die Begründung der Einordnung.

Standard-Zuordnungen

Verifizierte Fundstellen in OWASP, NIST AI RMF, MITRE ATLAS, EU AI Act und weiteren Rahmenwerken. Die Zuordnungen sind taxonomisch, kein Konformitätsnachweis.

OWASP LLM Top 10 LLM02:2025 · LLM10:2025NIST AI RMF NISTAML.031MITRE ATLAS AML.T0002 · AML.T0014 · AML.T0040EU AI Act Article 55(1)(d)BSI R12 · R25BIML BIML-LLM input:3 · BIML78 assembly:6 · BIML78 inference:3

Belegte Referenzen (12)

Jede Referenz nennt Rahmenwerk, Fundstelle und die herausgebende Organisation.

Weitere Einträge aus der Themengruppe Angriffe auf Modell und Betrieb.

Modell-Diebstahl Angreifer erzeugen aus einem fremden KI-Modell eine funktionsfähige Kopie, indem sie es massenhaft abfragen oder direkt in die … Adversariale Eingaben Angreifer verändern eine Eingabe minimal und für Menschen unauffällig, sodass das KI-Modell sie falsch einordnet. Für das System wird aus … Denial-of-Service auf das Modell Angreifer überlasten das KI-Modell mit besonders aufwendigen Anfragen, bis der Dienst langsamer wird oder ausfällt. Sie nutzen aus, dass …

Diese Bedrohung im eigenen System bewerten

Die Live-Demo enthält alle 52 Bedrohungen dieses Katalogs samt EU-AI-Act- und DSGVO-Einwertung. Die kostenlosen Einzelmodule decken KI-Risiko, EU-KI-VO und DSGVO ab. Ohne Registrierung; die Bewertung läuft lokal in Ihrem Browser.

Live-Demo starten Kostenlose Module ansehen

Diesen Eintrag zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diesen Eintrag.

„Modell-Reconnaissance“. Versatile AI Risk Assessment, KI-Bedrohungskatalog, Stand Juli 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/bedrohungen/modell-reconnaissance/

← Zurück zum vollständigen Katalog