Versatile AI Risk Assessment

KI-Bedrohungskatalog Angriffe auf Modell und Betrieb Produktion

Cost Harvesting / Zweckentfremdung

Angreifer nutzen kostenpflichtige KI-Dienste eines Unternehmens unbefugt auf dessen Rechnung, etwa mit gestohlenen Zugangsschlüsseln. Die Kosten und die Auslastung fallen dem Eigentümer zur Last.

Stand: Oktober 2026 · Katalogversion 2026.10.24.2 · 5 Gegenmaßnahmen · 5 belegte Quellen

Beschreibung

Kostenpflichtige KI-Dienste werden nach Nutzung abgerechnet. Angreifer verschaffen sich Zugang zum Konto oder zum API-Schlüssel, etwa über gestohlene Zugangsdaten oder in Code versehentlich veröffentlichte Schlüssel, und wickeln darüber eigene Arbeitslasten ab. Verbreitet ist auch der Weiterverkauf des Zugangs an Dritte über einen vorgeschalteten Zwischenserver (Proxy). Eine Variante zielt allein darauf, durch massenhafte Nutzung die Kosten in die Höhe zu treiben (Denial of Wallet, wörtlich Erschöpfung der Geldbörse). Anders als beim reinen Überlastungsangriff geht es um die Mitnutzung auf fremde Rechnung oder um finanziellen Schaden, nicht um einen Ausfall.

Mögliche Auswirkung

Dem Unternehmen entstehen unerwartete, teils erhebliche Cloud- und Rechenkosten. Der fremde Zugriff kann außerdem gegen Nutzungsbedingungen verstoßen oder für die Erzeugung schädlicher Inhalte missbraucht werden, was auf das Konto des Eigentümers zurückfällt. Betroffen sind Finanzen, Betrieb und mittelbar der Ruf.

Beispiel

Ein Entwickler lädt versehentlich einen API-Schlüssel in ein öffentliches Code-Repository. Innerhalb von Stunden nutzen Fremde den Schlüssel, um über den KI-Dienst des Unternehmens eigene Anfragen laufen zu lassen; am Monatsende steht eine Rechnung über mehrere Tausend Euro.

Empfohlene Gegenmaßnahmen (5)

Vergleichen Sie Wirkung und Umsetzungsebene. Die ergänzende Einordnung und Begründung können Sie bei Bedarf aufklappen.

  • API-Key-Rotation und Secrets Management

    Technisch
    Wirkung
    Präventiv
    Umsetzungsebene
    Anwendung, API & Agenten, Infrastruktur
    Einordnung und Begründung

    Ergänzende MaßnahmenartOrganisatorisch & prozessual

    Primär technisch: Maschinell erzwungene Identitäts-, Berechtigungs- oder Bereichsregeln begrenzen unzulässige Zugriffe und Aktionen; ergänzt durch verbindliche Abläufe.

  • Erkennung von Nutzungs-Anomalien

    Technisch
    Wirkung
    Aufdeckend
    Umsetzungsebene
    Anwendung, API & Agenten, Nutzung & Betrieb
    Einordnung und Begründung

    Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren.

  • Ausgaben-Limits und Alerts

    Technisch
    Wirkung
    Präventiv, Aufdeckend, Schadensbegrenzend
    Umsetzungsebene
    Anwendung, API & Agenten, Nutzung & Betrieb
    Einordnung und Begründung

    Ergänzende MaßnahmenartOrganisatorisch & prozessual

    Primär technisch: Automatisierte Ressourcensteuerung, Budget- oder Laufzeitgrenzen begrenzen Überlastung, Missbrauch, Kosten und Fehlerketten; ergänzt durch verbindliche Abläufe.

  • IP-Allowlisting

    Technisch
    Wirkung
    Präventiv
    Umsetzungsebene
    Anwendung, API & Agenten, Infrastruktur
    Einordnung und Begründung

    Ergänzende MaßnahmenartOrganisatorisch & prozessual

    Primär technisch: Maschinell erzwungene Identitäts-, Berechtigungs- oder Bereichsregeln begrenzen unzulässige Zugriffe und Aktionen; ergänzt durch verbindliche Abläufe.

  • Audit-Logs für die API-Nutzung

    Technisch
    Wirkung
    Aufdeckend
    Umsetzungsebene
    Anwendung, API & Agenten, Nutzung & Betrieb
    Einordnung und Begründung

    Ergänzende MaßnahmenartOrganisatorisch & prozessual

    Primär technisch: Software oder Analysewerkzeuge erzeugen und bewerten systematisch Messwerte, Abweichungen oder Angriffsindikatoren; ergänzt durch verbindliche Abläufe.

Standard-Zuordnungen

Verifizierte Fundstellen in OWASP, NIST AI RMF, MITRE ATLAS, EU AI Act und weiteren Rahmenwerken. Die Zuordnungen zeigen fachliche Bezüge. Sie belegen nicht, dass ein System die jeweiligen Anforderungen erfüllt.

OWASP LLM Top 10 LLM06:2026MITRE ATLAS AML.T0034EU AI Act Article 26(5) · Article 55(1)(d) · Article 9(1), 9(2)(a), 9(2)(d)

Belegte Referenzen (5)

Jede Referenz nennt Rahmenwerk, Fundstelle und die herausgebende Organisation.

Pflichten der KI-Verordnung zu dieser Bedrohung

Die Pflichten aus dem Pflichtenkompass, deren Artikel der Katalog dieser Bedrohung zuordnet. Jede führt auf ihren Eintrag mit Kern, Handlungsschritt und Nachweis; ob sie Sie trifft, hängt von Rolle und Risikoklasse ab.

  • Risikomanagementsystem einrichten und betreiben Art. 9 · gilt ab Anhang III: 2. Dezember 2027 · Anhang I: 2. August 2028

    Gesetzliche Rollen: Anbieter, Produkthersteller. Klassen: Hochrisiko nach Anhang III, Hochrisiko als Produkt oder Sicherheitsbauteil.

    Der Verweis ist ein Prüfanlass. Ein Bedrohungstreffer allein begründet keine Anwendbarkeit.

  • Betrieb überwachen und bei Risiko aussetzen Art. 26 Abs. 5 · gilt ab Anhang III: 2. Dezember 2027 · Anhang I: 2. August 2028

    Gesetzliche Rollen: Betreiber. Klassen: Hochrisiko nach Anhang III, Hochrisiko als Produkt oder Sicherheitsbauteil.

    Der Verweis ist ein Prüfanlass. Ein Bedrohungstreffer allein begründet keine Anwendbarkeit.

  • Systemische Risiken bewerten und mindern Art. 55 · gilt ab 2. August 2025

    Gesetzliche Rollen: Anbieter eines KI-Modells mit allgemeinem Verwendungszweck. Klassen: Modell mit systemischem Risiko.

    Der Verweis ist ein Prüfanlass. Ein Bedrohungstreffer allein begründet keine Anwendbarkeit.

Alle 62 Pflichten nach Rolle, Risikoklasse und Frist im Pflichtenkompass

Weitere Einträge aus der Themengruppe Angriffe auf Modell und Betrieb.

Modell-Diebstahl Angreifer erzeugen aus einem fremden KI-Modell eine funktionsfähige Kopie, indem sie es massenhaft abfragen oder direkt in die … Adversariale Eingaben Angreifer verändern eine Eingabe minimal und für Menschen unauffällig, sodass das KI-Modell sie falsch einordnet. Denial-of-Service auf das Modell Angreifer überlasten das KI-Modell mit besonders aufwendigen Anfragen, bis der Dienst langsamer wird oder ausfällt.

Passende Anwendungsfälle

Die Liste zeigt, wo Sie diese Bedrohung prüfen, nicht wie hoch das Risiko ist.

Besonders wichtig bei:

  • Chatbot und Voicebot im KundenserviceDer Bot ist ohne Anmeldung erreichbar und ruft bei jeder Nachricht ein kostenpflichtiges Sprachmodell auf. Automatisierte Anfragen in großer Zahl treiben die Kosten oder nutzen den Bot als kostenlosen Zugang zum Modell.

Üblich bei:

Bei 44 weiteren Anwendungsfällen hängt es vom Aufbau des Systems ab, etwa davon, ob es mit jeder Anfrage Kosten verursacht oder auch Menschen außerhalb Ihrer Organisation offensteht. Diese Anwendungsfälle zeigen

Häufige Fragen

Worum geht es bei dieser Bedrohung?
Angreifer nutzen kostenpflichtige KI-Dienste eines Unternehmens unbefugt auf dessen Rechnung, etwa mit gestohlenen Zugangsschlüsseln. Die Kosten und die Auslastung fallen dem Eigentümer zur Last.
Welche Gegenmaßnahmen nennt der Katalog?
Der Katalog nennt 5 Gegenmaßnahmen, jede mit Maßnahmenart, Wirkung und Umsetzungsebene. Beispiele sind: API-Key-Rotation und Secrets Management, Erkennung von Nutzungs-Anomalien und Ausgaben-Limits und Alerts. Die Reihenfolge ist keine Priorisierung.
Welche Pflichten der KI-Verordnung können relevant sein?
Der Katalog ordnet diese Bedrohung Art. 9, Art. 26 Abs. 5 und Art. 55 der EU-KI-Verordnung zu. Daraus folgen im Pflichtenkompass: Risikomanagementsystem einrichten und betreiben, Betrieb überwachen und bei Risiko aussetzen und Systemische Risiken bewerten und mindern. Ob eine Pflicht gilt, entscheiden Rolle, Risikoklasse und Frist.

Diese Bedrohung im eigenen System bewerten

Die Live-Demo enthält alle 52 Bedrohungen dieses Katalogs sowie die Einordnung nach der EU-KI-Verordnung und die Datenschutzprüfung. Die kostenlosen Einzelmodule decken KI-Risiko, EU-KI-VO und DSGVO ab. Ohne Registrierung; die Bewertung läuft lokal in Ihrem Browser.

Live-Demo starten Kostenlose Module ansehen

Diesen Eintrag zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diesen Eintrag.

„Cost Harvesting / Zweckentfremdung“. Versatile AI Risk Assessment, KI-Bedrohungskatalog, Stand Oktober 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/bedrohungen/cost-harvesting/

← Zurück zum vollständigen Katalog