KI-BedrohungskatalogAngriffe auf Modell und BetriebProduktion
Cost Harvesting / Zweckentfremdung
Angreifer nutzen kostenpflichtige KI-Dienste eines Unternehmens unbefugt auf dessen Rechnung, etwa mit gestohlenen Zugangsschlüsseln. Die Kosten und die Auslastung fallen dem Eigentümer zur Last.
Beschreibung
Kostenpflichtige KI-Dienste werden nach Nutzung abgerechnet. Angreifer verschaffen sich Zugang zum Konto oder zum API-Schlüssel, etwa über gestohlene Zugangsdaten oder in Code versehentlich veröffentlichte Schlüssel, und wickeln darüber eigene Arbeitslasten ab. Verbreitet ist auch der Weiterverkauf des Zugangs an Dritte über einen vorgeschalteten Zwischenserver (Proxy). Eine Variante zielt allein darauf, durch massenhafte Nutzung die Kosten in die Höhe zu treiben (Denial of Wallet, wörtlich Erschöpfung der Geldbörse). Anders als beim reinen Überlastungsangriff geht es um die Mitnutzung auf fremde Rechnung oder um finanziellen Schaden, nicht um einen Ausfall.
Mögliche Auswirkung
Dem Unternehmen entstehen unerwartete, teils erhebliche Cloud- und Rechenkosten. Der fremde Zugriff kann außerdem gegen Nutzungsbedingungen verstoßen oder für die Erzeugung schädlicher Inhalte missbraucht werden, was auf das Konto des Eigentümers zurückfällt. Betroffen sind Finanzen, Betrieb und mittelbar der Ruf.
Beispiel
Ein Entwickler lädt versehentlich einen API-Schlüssel in ein öffentliches Code-Repository. Innerhalb von Stunden nutzen Fremde den Schlüssel, um über den KI-Dienst des Unternehmens eigene Anfragen laufen zu lassen; am Monatsende steht eine Rechnung über mehrere Tausend Euro.
Empfohlene Gegenmaßnahmen (5)
Jede Maßnahme nennt ihre Maßnahmenart, Wirkung, Umsetzungsebene und die Begründung der Einordnung.
API-Key-Rotation und Secrets ManagementTechnisch
- Wirkung
- Präventiv
- Umsetzungsebene
- Anwendung, API & Agenten, Infrastruktur
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „API-Key-Rotation und Secrets Management“ ist primär technisch: Maschinell erzwungene Identitäts-, Berechtigungs- oder Bereichsregeln begrenzen unzulässige Zugriffe und Aktionen; ergänzt durch verbindliche Abläufe.
Erkennung von Nutzungs-AnomalienTechnisch
- Wirkung
- Aufdeckend
- Umsetzungsebene
- Anwendung, API & Agenten, Nutzung & Betrieb
- Begründung der Einordnung
- „Erkennung von Nutzungs-Anomalien“ ist primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.
Ausgaben-Limits und AlertsTechnisch
- Wirkung
- Präventiv, Aufdeckend, Schadensbegrenzend
- Umsetzungsebene
- Anwendung, API & Agenten, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Ausgaben-Limits und Alerts“ ist primär technisch: Automatisierte Ressourcensteuerung, Budget- oder Laufzeitgrenzen begrenzen Überlastung, Missbrauch, Kosten und Fehlerketten; ergänzt durch verbindliche Abläufe.
IP-AllowlistingTechnisch
- Wirkung
- Präventiv
- Umsetzungsebene
- Anwendung, API & Agenten, Infrastruktur
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „IP-Allowlisting“ ist primär technisch: Maschinell erzwungene Identitäts-, Berechtigungs- oder Bereichsregeln begrenzen unzulässige Zugriffe und Aktionen; ergänzt durch verbindliche Abläufe.
Audit-Logs für die API-NutzungTechnisch
- Wirkung
- Aufdeckend
- Umsetzungsebene
- Anwendung, API & Agenten, Nutzung & Betrieb
- Ergänzende Maßnahmenart
- Organisatorisch & prozessual
- Begründung der Einordnung
- „Audit-Logs für die API-Nutzung“ ist primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren; ergänzt durch verbindliche Abläufe.
Standard-Zuordnungen
Verifizierte Fundstellen in OWASP, NIST AI RMF, MITRE ATLAS, EU AI Act und weiteren Rahmenwerken. Die Zuordnungen sind taxonomisch, kein Konformitätsnachweis.
Belegte Referenzen (5)
Jede Referenz nennt Rahmenwerk, Fundstelle und die herausgebende Organisation.
- OWASP LLM Top 10 LLM10:2025 Unbounded ConsumptionLLM10:2025 Unbounded Consumption, official category page OWASP FoundationOriginal
- MITRE ATLAS AML.T0034 Cost HarvestingATLAS.yaml technique object with id AML.T0034 (pinned release v5.6.0) MITREOriginal
- EU AI Act Article 26(5) Obligations of deployers of high-risk AI systemsArticle 26(5) European Union (EUR-Lex)Original
- EU AI Act Article 55(1)(d) Obligations of providers of general-purpose AI models with systemic riskArticle 55(1)(d) European Union (EUR-Lex)Original
- EU AI Act Article 9(1), 9(2)(a), 9(2)(d) Risk management systemArticle 9(1), 9(2)(a), 9(2)(d), read with Article 9(3) European Union (EUR-Lex)Original
Verwandte Bedrohungen
Weitere Einträge aus der Themengruppe Angriffe auf Modell und Betrieb.
Diese Bedrohung im eigenen System bewerten
Die Live-Demo enthält alle 52 Bedrohungen dieses Katalogs samt EU-AI-Act- und DSGVO-Einwertung. Die kostenlosen Einzelmodule decken KI-Risiko, EU-KI-VO und DSGVO ab. Ohne Registrierung; die Bewertung läuft lokal in Ihrem Browser.
Diesen Eintrag zitieren
Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diesen Eintrag.
„Cost Harvesting / Zweckentfremdung“. Versatile AI Risk Assessment, KI-Bedrohungskatalog, Stand Juli 2026. https://www.versatile-ai-risk-assessment.com/wissensbasis/bedrohungen/cost-harvesting/