Versatile AI Risk Assessment

Glossar Steuerung und Aufsicht

Red Teaming

Strukturierte Angriffsversuche auf das eigene System, bevor andere sie unternehmen.

Stand: September 2026 · Glossar mit 28 Begriffen

Bedeutung und Einordnung

Red Teaming ist der geplante Versuch, das eigene KI-System zum Fehlverhalten zu bringen: Prompt-Angriffe, Umgehungen, Datenabfluss über Ausgaben, Missbrauch angebundener Werkzeuge. Geprüft wird die gesamte Anwendung, nicht nur das Modell.

Damit daraus mehr wird als eine Sammlung von Anekdoten, braucht es Wiederholbarkeit: feste Angriffsmuster, dokumentierte Ergebnisse je Version und eine Zuordnung der Befunde zu Bedrohungen und Maßnahmen. Die EU-KI-Verordnung verlangt für Modelle mit systemischem Risiko ausdrücklich Evaluierungen einschließlich adversarialer Tests.

Art. 55 EU AI ActTestsNachweis

Weitere Begriffe aus dem Themenfeld Steuerung und Aufsicht.

Autonomiegrad Wie viel ein System ohne menschliches Zutun entscheidet und ausführt. Human in the Loop, on the Loop, out of the Loop Drei Stufen menschlicher Aufsicht: mitentscheidend, überwachend oder gar nicht beteiligt. Leitplanken (Guardrails) Technische Regeln, die Eingaben, Ausgaben und Handlungen eines Systems begrenzen.

Passende Inhalte in der Wissensbasis

Vertiefen Sie das Thema über den folgenden Verweis. In der Glossarübersicht finden Sie weitere Begriffe, geordnet nach Themenfeld.

Befunde in der Live-Demo Bedrohungen zuordnen Alle Begriffe im Glossar

Diesen Begriff zitieren

Für Berichte, Richtlinien oder interne Unterlagen; der Link führt direkt auf diese Begriffsseite.

„Red Teaming“. Versatile AI Risk Assessment, Glossar der KI-Risikoanalyse, Stand September 2026.
https://www.versatile-ai-risk-assessment.com/wissensbasis/glossar/rote-team-pruefung/

← Zurück zum Glossar