Vorausschauende Instandhaltung (Predictive Maintenance)

Kann das System selbst etwas verändern, etwa Daten speichern, Nachrichten senden, Buchungen auslösen oder Rechte vergeben?

Je nach Einbindung legt das System Wartungsaufträge im Instandhaltungssystem selbst an oder schlägt sie nur vor.

Wenn ja, kommt hinzu

• Excessive Agency (übermäßige Handlungsermächtigung)

Verarbeitet das System Angaben zu erkennbaren Personen, auch in Eingaben, Ausgaben oder Protokollen?

Betriebsdaten können Rückschlüsse auf das Bedienpersonal zulassen, im Fuhrpark auch auf Fahrerinnen und Fahrer.

Wenn ja, kommt hinzu

• Privacy-Angriffe
• Offenlegung sensibler Informationen

Verarbeitet das System vertrauliche Informationen, etwa Geschäftsgeheimnisse, Gesundheits- oder Finanzdaten?

Anlagen- und Produktionsdaten können Geschäftsgeheimnisse sein.

Wenn ja, kommt hinzu

• Privacy-Angriffe
• Offenlegung sensibler Informationen
• Exfiltration aus der ML-Anwendung

Wird das Modell mit Beispielen trainiert, denen jemand die richtige Antwort zugeordnet hat?

Eine Anomalieerkennung kommt ohne gekennzeichnete Beispiele aus, eine Ausfallvorhersage lernt dagegen aus dokumentierten Schäden.

Wenn ja, kommt hinzu

• Gezielte Datenvergiftung / Label-Vergiftung

Fließen Rückmeldungen oder Ergebnisse aus dem Betrieb später in Auswertung oder Training ein?

Meldet die Instandhaltung zurück, ob eine Warnung berechtigt war, kann das Modell daraus lernen.

Wenn ja, kommt hinzu

• Gezielte Datenvergiftung / Label-Vergiftung

Verarbeitet das System mehrere Arten von Eingaben zusammen, etwa Text mit Bild oder Sprache?

Manche Systeme werten Schwingung, Temperatur, Ton und Bild gemeinsam aus.

Wenn ja, kommt hinzu

• Denial-of-Service auf das Modell
• Multimodale Angriffe

Soll das System eine vorgegebene Kennzahl möglichst verbessern, etwa Umsatz, Auslastung oder Klicks?

Plant das System Wartungsfenster selbst, verfolgt es ein Ziel wie hohe Verfügbarkeit oder niedrige Kosten.

Wenn ja, kommt hinzu

• Misalignment (Fehlausrichtung)

Können Personen oder Programme dem Modell direkt Anfragen stellen, zum Beispiel über eine Schnittstelle?

Wenn ja, kommt hinzu

• Modell-Diebstahl
• Denial-of-Service auf das Modell
• Denial-of-Service auf die Anwendung
• Modell-Reconnaissance

Ist das System über ein Netzwerk erreichbar oder auf Dienste im Netz angewiesen?

Wenn ja, kommt hinzu

• Modell-Diebstahl
• Denial-of-Service auf das Modell
• Denial-of-Service auf die Anwendung

Zahlen Sie je Anfrage oder je Rechenzeit, sodass die Kosten mit der Nutzung steigen?

Wenn ja, kommt hinzu

• Cost Harvesting / Zweckentfremdung

Können Inhalte die eigene Umgebung verlassen, etwa zu einem Cloud-Anbieter, in eine Websuche oder per E-Mail?

Läuft die Plattform in der Cloud, verlassen Anlagendaten die eigene Umgebung.

Wenn ja, kommt hinzu

• Exfiltration aus der ML-Anwendung

Teilt sich das System Server oder Rechenleistung mit anderen Kunden oder Anwendungen?

Wenn ja, kommt hinzu

• Seitenkanal-Angriffe (Timing-Analyse)

Können Menschen außerhalb Ihrer Organisation das System nutzen, auch ohne Anmeldung?

Wenn ja, kommt hinzu

• Modell-Diebstahl
• Denial-of-Service auf das Modell
• Cost Harvesting / Zweckentfremdung
• Denial-of-Service auf die Anwendung
• Modell-Reconnaissance

Nutzen Beschäftigte für diese Aufgabe auch KI-Dienste, die Ihre Organisation nicht freigegeben hat?

Wenn ja, kommt hinzu

• Shadow AI (nicht genehmigte Nutzung von KI-Diensten)