KI-gestützte Bewerbervorauswahl

Schreibt das System eigene Texte, etwa Antworten, Entwürfe oder Zusammenfassungen?

Neuere Systeme fassen Bewerbungen mit einem Sprachmodell zusammen, klassische Verfahren geben nur eine Rangfolge aus.

Wenn ja, kommt hinzu

• Denial-of-Service auf das Modell
• Faktische Fehler (Halluzinationen)
• Seitenkanal-Angriffe (Timing-Analyse)

Kann man dem System in normaler Sprache Aufträge geben, die es dann ausführt?

Ein Sprachmodell folgt Anweisungen, auch solchen, die jemand unsichtbar in einen Lebenslauf geschrieben hat.

Wenn ja, kommt hinzu

• Sleepy Agent (zeit-/ereignisgetriggerte verdeckte Instruktionen)
• Prompt Injection: Direkt
• Prompt Injection: Indirekt
• Jailbreaks
• Extraktion des Meta-Prompts

Sucht das System in einer eigenen Sammlung von Dokumenten oder Datensätzen nach passenden Inhalten?

Manche Systeme durchsuchen einen Bestand früherer Bewerbungen nach passenden Personen.

Wenn ja, kommt hinzu

• RAG-spezifische Angriffe (Document Poisoning)
• Cross-Tenant-Leakage (Multi-Tenant Vector-DB)

Nutzt das System ein Begriffsnetz (Wissensgraph), in dem Begriffe und ihre Beziehungen gespeichert sind?

Manche Systeme ordnen Fähigkeiten und Berufe über eine Datenbank mit Begriffen und ihren Beziehungen zu.

Wenn ja, kommt hinzu

• RAG-spezifische Angriffe (Document Poisoning)

Kann das System selbst etwas verändern, etwa Daten speichern, Nachrichten senden, Buchungen auslösen oder Rechte vergeben?

Je nach Unternehmen verschickt das System Absagen selbst oder schlägt nur eine Rangfolge vor.

Wenn ja, kommt hinzu

• Excessive Agency (übermäßige Handlungsermächtigung)

Liegen Dokumente mehrerer Kunden, Abteilungen oder Berechtigungsgruppen im selben Suchspeicher?

Bei Personaldienstleistern liegen Bewerbungen für mehrere Kundenunternehmen oft im selben Bestand.

Wenn ja, kommt hinzu

• Cross-Tenant-Leakage (Multi-Tenant Vector-DB)

Trainiert oder verfeinert Ihre Organisation das Modell selbst mit eigenen Daten?

Manche Unternehmen trainieren das Modell mit ihren früheren Einstellungsentscheidungen, so wie Amazon.

Wenn ja, kommt hinzu

• Vergiftung der Trainingsdaten
• Modell-Diebstahl

Wird das Modell mit Beispielen trainiert, denen jemand die richtige Antwort zugeordnet hat?

Lernt das Modell aus früheren Einstellungen, übernimmt es deren Muster, auch benachteiligende.

Wenn ja, kommt hinzu

• Gezielte Datenvergiftung / Label-Vergiftung

Fließen Rückmeldungen oder Ergebnisse aus dem Betrieb später in Auswertung oder Training ein?

Entscheidungen der Personalabteilung können als neue Lernbeispiele zurückfließen.

Wenn ja, kommt hinzu

• Vergiftung der Trainingsdaten
• Gezielte Datenvergiftung / Label-Vergiftung

Verarbeitet das System mehrere Arten von Eingaben zusammen, etwa Text mit Bild oder Sprache?

Werten Systeme auch Videointerviews oder Fotos aus, kommen Bild und Ton zum Text hinzu.

Wenn ja, kommt hinzu

• Denial-of-Service auf das Modell
• Multimodale Angriffe

Soll das System eine vorgegebene Kennzahl möglichst verbessern, etwa Umsatz, Auslastung oder Klicks?

Wenn ja, kommt hinzu

• Misalignment (Fehlausrichtung)

Können Personen oder Programme dem Modell direkt Anfragen stellen, zum Beispiel über eine Schnittstelle?

Wenn ja, kommt hinzu

• Modell-Diebstahl
• Denial-of-Service auf das Modell
• Denial-of-Service auf die Anwendung
• Modell-Reconnaissance
• Seitenkanal-Angriffe (Timing-Analyse)

Ist das System über ein Netzwerk erreichbar oder auf Dienste im Netz angewiesen?

Wenn ja, kommt hinzu

• Modell-Diebstahl
• Denial-of-Service auf das Modell
• Denial-of-Service auf die Anwendung

Zahlen Sie je Anfrage oder je Rechenzeit, sodass die Kosten mit der Nutzung steigen?

Wenn ja, kommt hinzu

• Cost Harvesting / Zweckentfremdung

Teilt sich das System Server oder Rechenleistung mit anderen Kunden oder Anwendungen?

Wenn ja, kommt hinzu

• Seitenkanal-Angriffe (Timing-Analyse)

Können Menschen außerhalb Ihrer Organisation das System nutzen, auch ohne Anmeldung?

Über ein Bewerbungsportal kann jede Person Unterlagen einreichen, die das System auswertet.

Wenn ja, kommt hinzu

• Modell-Diebstahl
• Denial-of-Service auf das Modell
• Cost Harvesting / Zweckentfremdung
• Denial-of-Service auf die Anwendung
• Modell-Reconnaissance

Nutzen Beschäftigte für diese Aufgabe auch KI-Dienste, die Ihre Organisation nicht freigegeben hat?

Laden Beschäftigte Bewerbungen in einen frei verfügbaren Chatdienst, um sie vergleichen zu lassen, geschieht das außerhalb jeder Freigabe.

Wenn ja, kommt hinzu

• Shadow AI (nicht genehmigte Nutzung von KI-Diensten)