Eingabedaten und Informationsquellen
Kameras an der Linie können auch Beschäftigte aufnehmen. Prüfbilder und Fehlerdaten zeigen Konstruktion und Fertigungsstand und können Geschäftsgeheimnisse sein.
Visuelle und akustische Qualitätsprüfung
Englisch: AI-based visual inspection
Kameras oder Mikrofone nehmen Bauteile und Produkte an der Fertigungslinie auf, und ein Modell prüft sie auf Fehler, Vollständigkeit und die richtige Variante.
Den Anwendungsfall verstehen
Was macht diesen Anwendungsfall aus?
Das Modell lernt aus Aufnahmen, auf denen Fachleute gute und fehlerhafte Teile gekennzeichnet haben, und prüft danach jedes Teil im Takt der Linie. Die BMW Group prüft so nach eigener Angabe in ihren Werken, in Dingolfing auch am Fahrgeräusch, und Audi hat die Erkennung von Rissen in Blechteilen erprobt.
Die Seite beschreibt einen typischen Aufbau. Die tatsächlichen Datenwege und Befugnisse ergeben sich aus Ihrer Umsetzung.
- Bauform
- Auswertung und Verarbeitung
- Handlungsmacht
- Handlungsrechte je nach Einbindung
- Einsatzfelder
- Automobilindustrie
- Auch bekannt als
- automatische Sichtprüfung, Machine-Vision-Prüfung, Visual Inspection
Funktionsweise und Ablauf
Aufbau und Datenwege
Eingabedaten
Kameras, Mikrofone oder andere Sensoren nehmen jedes Teil an der Linie auf.
Manche Prüfstationen werten Bild und Ton gemeinsam aus. Kameras an der Linie können auch Beschäftigte aufnehmen.
Verarbeitung
Ein Modell vergleicht die Aufnahme mit dem, was es aus gekennzeichneten Beispielen gelernt hat.
Das Modell vergleicht Bild- oder Tonsignale eines Produkts mit erlernten oder vorgegebenen Qualitätsmerkmalen. Daraus entstehen eine Klassifikation oder markierte Auffälligkeiten. Ob ein Produkt ausgesondert wird, entscheidet die nachgelagerte Prüf- oder Anlagensteuerung anhand ihrer Regeln.
Ergebnisse
Das Ergebnis lautet „in Ordnung“ oder nennt Fehler, fehlende Teile oder eine falsche Variante.
Das Ergebnis beschreibt die definierte Modellaufgabe. Ein Treffer, eine Kategorie oder eine Prognose erhält seine fachliche Bedeutung erst zusammen mit den zugrunde liegenden Daten und dem vorgesehenen Verwendungszweck.
Nutzung und Auswirkungen
Fehlerhafte Teile werden nachgeprüft, nachgearbeitet oder aussortiert, alle anderen gehen in die Montage oder an den Kunden.
Die Einbindung bestimmt, ob das Ergebnis lediglich angezeigt, nach Freigabe übernommen oder direkt in ein Fachverfahren geschrieben wird. Diese Varianten unterscheiden sich in ihren Datenwegen und Befugnissen.
Aufbau aktiv erkunden: Wählen Sie einen Baustein, um seine Aufgabe, die ein- und ausgehenden Daten und die Einbindung im Anwendungsfall zu sehen. Der geführte Ablauf erläutert jede Phase. Mit Ja, Offen und Nein können Sie anschließend Ihre konkrete Systemvariante abbilden.
5 zuerst zu prüfen12 zu klären7 Grundlagen
- Vorhanden
- Hängt von Ihrem System ab
- Nicht vorhanden
- Zuerst zu prüfen
- Zu klären
So nutzen Sie das Modell
Das Bild zeigt den Anwendungsfall, wie er typischerweise gebaut ist. Wählen Sie einen Baustein, um zu sehen, was dort geschieht, und stellen Sie seine Merkmale auf Ihr System um. Mit „Analysehinweise“ sehen Sie anschließend, welche Prüfkandidaten zu diesem Aufbau gehören. Die Prüfliste der Seite bleibt auf den typischen Fall bezogen.
Abweichungen vom typischen Fall
Noch keine. Jede Umstellung erscheint hier.
Wo die meisten Bedrohungen ansetzen
- 4 zu klären
- 3 zuerst zu prüfen
- 3 zu klären
- 3 zu klären
Im gezeigten Aufbau: 5 zuerst zu prüfen, 12 zu klären, 7 Grundlagen.
Aufbau als Liste
Zugang von außen: Hängt von Ihrem System ab
Zu klären
Eingabe: Gehört zu jedem KI-System
Zu klären
Grundlage für jedes KI-System
KI-Modell: Gehört zu jedem KI-System
Zuerst prüfen
- Modell-Drift & -Degradation Prüfschwerpunkt
Dienst eines Anbieters: Hängt von Ihrem System ab
Zu klären
Training und Rückmeldung: Vorhanden
Zuerst prüfen
Ergebnis: Gehört zu jedem KI-System
Grundlage für jedes KI-System
Fachanwendung oder Anlage: Hängt von Ihrem System ab
Zu klären
Mensch: Gehört zu jedem KI-System
Zuerst prüfen
- Übermäßiges Vertrauen in das KI-System Prüfschwerpunkt
KI-Dienste ohne Freigabe: Hängt von Ihrem System ab
Zu klären
Lieferkette und technische Basis: 5 Grundlagen, die für jedes KI-System gelten
Grundlage für jedes KI-System
Abgrenzung zu ähnlichen Anwendungsfällen
Vorausschauende Instandhaltung (Predictive Maintenance)
Überwacht den Zustand von Maschinen und Anlagen statt der gefertigten Teile
Intelligente Videoanalyse im öffentlichen Raum
Wertet Kamerabilder von Vorgängen im öffentlichen Raum aus
KI in der medizinischen Bildauswertung
Wertet Röntgen-, CT- oder MRT-Aufnahmen von Patientinnen und Patienten aus
Daten und Informationen
Verarbeitung und Betriebsumgebung
Neben eigenen Entwicklungen gibt es Prüfsysteme von Anbietern, deren Modelle schon vortrainiert sind.
Speicherung und weitere Nutzung
Die Prüfmodelle lernen mit Aufnahmen der eigenen Bauteile, und Audi hat sein System selbst entwickelt. Was Beschäftigte bei der Nachprüfung feststellen, kann als neues Lernbeispiel zurückfließen.
Ergebnisse und Datenweitergabe
Je nach Einbindung sperrt das System ein Teil im Fertigungsleitsystem selbst oder markiert es nur zur Nachprüfung. Steuert das Prüfsystem eine Weiche oder einen Greifer, der fehlerhafte Teile aussortiert, greift es unmittelbar in die Linie ein.
Ein eingebundener Anbieter legt den Verarbeitungsort nicht automatisch fest. Speicherort, Unterauftragnehmer, Löschfristen und die Nutzung für Training sind im konkreten Betrieb zu prüfen.
Risiken einordnen und Maßnahmen festlegen
Vom Systemverständnis zur Risikoanalyse
- System abgrenzen
Daten, Beteiligte, Schnittstellen und Rechte erfassen. Offene Merkmale im Modell klären.
- Bedrohungen untersuchen
Prüfkandidaten auf die tatsächlichen Datenwege beziehen: Was könnte passieren und wer wäre betroffen?
- Risiko bewerten
Auswirkungen und Eintrittswahrscheinlichkeit im Einsatzkontext bewerten. Die Anzahl der Prüfkandidaten ist kein Risikowert.
- Maßnahmen nachweisen
Geeignete Kontrollen auswählen, Verantwortliche und Wirksamkeitsprüfungen festlegen. Restrisiken und Freigaben dokumentieren.
Wichtige Bedrohungen im Anwendungskontext
- 3 besonders wichtig
- 2 üblich
- 12 je nach System
- 7 weitere bei jedem KI-System
Insgesamt kommen bei diesem Anwendungsfall 24 Bedrohungen aus dem Bedrohungskatalog infrage.
Vorrangige Prüfansätze
Eine neue Variante, ein anderer Lieferant oder anderes Licht verändern die Aufnahmen, das Modell aber wurde nicht neu trainiert. Die Prüfung lässt dann Fehler durch oder sortiert gute Teile aus.
Gezielte Datenvergiftung / Label-Vergiftung
Wer Zugriff auf die Trainingsdaten hat, kann einzelne Fehlerbilder gezielt als „in Ordnung“ kennzeichnen. Das Modell lässt genau diesen Fehler dann durch, und die Teile gelangen unbemerkt in die Montage oder zum Kunden.
Übermäßiges Vertrauen in das KI-System
Wer sich darauf verlässt, dass die Kamera jeden Fehler findet, lässt Stichproben von Hand schnell weg. Fehlerarten, die das Modell nie gesehen hat, bleiben so unentdeckt.
2 weitere Prüfkandidaten im typischen Aufbau
Weitere relevante Bedrohungen
Über eigenes Training oder Rückmeldungen aus dem Betrieb können manipulierte Daten in die Lerndaten gelangen.
Steht hier wegen dieser Eigenschaft
- Lernt aus Ihren eigenen Daten
Über Trainingsdaten oder ein übernommenes Grundmodell kann das Modell versteckte Auslöser für Fehlverhalten enthalten.
Steht hier wegen dieser Eigenschaft
- Lernt aus Ihren eigenen Daten
Je nach Aufbau Ihres Systems kommen bis zu 12 weitere hinzu. Neun Bedrohungen prüfen Sie bei jedem KI-System. Zwei davon sind hier besonders wichtig und stehen deshalb oben.
Systemmerkmale und offene Fragen
Jedes Ja setzt weitere Bedrohungen auf Ihre Prüfliste, insgesamt bis zu 12. Können Sie eine Frage noch nicht beantworten, prüfen Sie die Bedrohungen mit.
- Kommt mit diesem Ja hinzu
Wie Ihr System gebaut ist
- Verarbeitet vertrauliche Daten3 Bedrohungen
- Verarbeitet personenbezogene Daten2 Bedrohungen
- Steuert Vorgänge in der physischen Welt2 Bedrohungen
- Verarbeitet Text, Bild und Sprache gemeinsam2 Bedrohungen
- Verändert Daten oder löst Vorgänge aus1 Bedrohung
Wie Sie das System betreiben
- Ist für Menschen außerhalb der Organisation nutzbar5 Bedrohungen
- Nimmt Anfragen direkt über eine Schnittstelle an4 Bedrohungen
- Ist über ein Netzwerk erreichbar3 Bedrohungen
- Verursacht mit jeder Anfrage Kosten1 Bedrohung
- Gibt Inhalte an Dienste außerhalb der eigenen Umgebung weiter1 Bedrohung
- Teilt Rechenleistung mit anderen Kunden oder Anwendungen1 Bedrohung
- Neben KI-Diensten ohne Freigabe im Einsatz1 Bedrohung
Wie Ihr System gebaut ist
Kann das System selbst etwas verändern, etwa Daten speichern, Nachrichten senden, Buchungen auslösen oder Rechte vergeben?
Je nach Einbindung sperrt das System ein Teil im Fertigungsleitsystem selbst oder markiert es nur zur Nachprüfung.
Wenn ja, kommt hinzu
Verarbeitet das System Angaben zu erkennbaren Personen, auch in Eingaben, Ausgaben oder Protokollen?
Kameras an der Linie können auch Beschäftigte aufnehmen.
Wenn ja, kommt hinzu
Verarbeitet das System vertrauliche Informationen, etwa Geschäftsgeheimnisse, Gesundheits- oder Finanzdaten?
Prüfbilder und Fehlerdaten zeigen Konstruktion und Fertigungsstand und können Geschäftsgeheimnisse sein.
Wenn ja, kommt hinzu
Bewegt oder steuert das System unmittelbar etwas in der physischen Welt, etwa Motoren, Ventile, Fahrzeuge oder Temperaturen?
Steuert das Prüfsystem eine Weiche oder einen Greifer, der fehlerhafte Teile aussortiert, greift es unmittelbar in die Linie ein.
Wenn ja, kommt hinzu
Verarbeitet das System mehrere Arten von Eingaben zusammen, etwa Text mit Bild oder Sprache?
Manche Prüfstationen werten Bild und Ton gemeinsam aus.
Wenn ja, kommt hinzu
Wie Sie das System betreiben
Diese Fragen stellen sich bei fast jedem KI-System.
Können Personen oder Programme dem Modell direkt Anfragen stellen, zum Beispiel über eine Schnittstelle?
Wenn ja, kommt hinzu
Ist das System über ein Netzwerk erreichbar oder auf Dienste im Netz angewiesen?
Wenn ja, kommt hinzu
Zahlen Sie je Anfrage oder je Rechenzeit, sodass die Kosten mit der Nutzung steigen?
Wenn ja, kommt hinzu
Können Inhalte die eigene Umgebung verlassen, etwa zu einem Cloud-Anbieter, in eine Websuche oder per E-Mail?
Wenn ja, kommt hinzu
Teilt sich das System Server oder Rechenleistung mit anderen Kunden oder Anwendungen?
Wenn ja, kommt hinzu
Können Menschen außerhalb Ihrer Organisation das System nutzen, auch ohne Anmeldung?
Wenn ja, kommt hinzu
Nutzen Beschäftigte für diese Aufgabe auch KI-Dienste, die Ihre Organisation nicht freigegeben hat?
Wenn ja, kommt hinzu
Maßnahmen und Umsetzung
Maßnahmen zu den Prüfschwerpunkten sind direkt geöffnet. Die verlinkten Maßnahmen erläutern jeweils die Umsetzung.
PrüfschwerpunktModell-Drift & -Degradation3 Maßnahmen
PrüfschwerpunktGezielte Datenvergiftung / Label-Vergiftung3 Maßnahmen
PrüfschwerpunktÜbermäßiges Vertrauen in das KI-System3 Maßnahmen
Vergiftung der Trainingsdaten2 Maßnahmen
Backdoor im ML-Modell2 Maßnahmen
Maßnahmen gegen die übrigen Bedrohungen finden Sie auf deren Seiten im Bedrohungskatalog.
Vorschriften der KI-Verordnung
Gilt für jedes KI-System
Art. 4: KI-Kompetenz
Greift, wenn Beschäftigte oder Beauftragte KI-Systeme betreiben oder nutzen.
Gilt seit dem 2. Februar 2025.
Pflichten und Einzelheiten zu Art. 4: KI-Kompetenz
- Wer die Pflichten trägt
- Anbieter, Betreiber, Produkthersteller, Anbieter eines KI-Modells mit allgemeinem Verwendungszweck
Die Pflichten im Einzelnen
Greift in der Regel nicht
Art. 6 Abs. 1, Anhang I Abschnitt A: Sicherheitsbauteil eines geprüften Produkts
Eine Prüfung am Bandende, die nur Fehler meldet, ist in der Regel kein Sicherheitsbauteil der Maschine. Anders kann es sein, wenn sie in die Maschinensteuerung eingreift.
Pflichten und Einzelheiten zu Art. 6 Abs. 1, Anhang I Abschnitt A: Sicherheitsbauteil eines geprüften Produkts
- Allgemein lautet die Bedingung
- Greift, wenn das System selbst ein Produkt oder Sicherheitsbauteil eines Produkts ist, das nach den Vorschriften in Anhang I von Dritten geprüft werden muss, etwa Maschinen, Aufzüge, Medizinprodukte oder Spielzeug.
- Ausnahme
- Systeme, die nur Bedienung, Leistung oder Komfort verbessern und nichts mit Sicherheit zu tun haben, gelten nach Art. 6 Abs. 1a bis 1c nicht als Sicherheitsbauteil.
- Wer die Pflichten trägt
- Anbieter, Betreiber, Produkthersteller
Die Pflichten im Einzelnen
- Einstufung prüfen und begründen
- Risikomanagementsystem einrichten und betreiben
- Technische Dokumentation erstellen
- Genauigkeit, Robustheit und Cybersicherheit gewährleisten
- Konformitätsbewertung durchführen
- EU-Konformitätserklärung ausstellen und CE-Kennzeichnung anbringen
- Systeme nach dem Inverkehrbringen überwachen
Ihr System im Schnellprüfer einordnen Alle Pflichten im Pflichtenkompass
Übergreifende Bedrohungen
Diese Bedrohungen prüfen Sie bei jedem KI-System, egal wofür es eingesetzt wird.
- Lieferkette: Infrastruktur
- Lieferkette: Modelle
- Lieferkette: Datensätze
- Adversariale Eingaben
- Unsicherer Umgang mit Modellausgaben
- Anwendungs-Schwachstellen
- Übermäßiges Vertrauen in das KI-System Prüfschwerpunkt: Übermäßiges Vertrauen in das KI-System
- Modell-Drift & -Degradation Prüfschwerpunkt: Modell-Drift & -Degradation
- Middleware-Exploits (Angriffe auf AI-Frameworks)
Abweichende Systemmerkmale
17 weitere Fragen ansehen
Trifft eine dieser Fragen bei Ihrem System doch zu, kommen die genannten Bedrohungen hinzu.
Schreibt das System eigene Texte, etwa Antworten, Entwürfe oder Zusammenfassungen?
Wenn ja, kommt hinzu
Erzeugt oder verändert das System Bilder, Töne, Stimmen oder Videos?
Wenn ja, kommt hinzu
Schreibt oder gestaltet das System auf freie Anfrage neue Inhalte, die Menschen direkt lesen, sehen oder hören? Übersetzen, Vorlesen und Abschreiben zählen nicht.
Wenn ja, kommt hinzu
Kann man dem System in normaler Sprache Aufträge geben, die es dann ausführt?
Das Prüfsystem wertet Aufnahmen aus und nimmt keine Aufträge in normaler Sprache entgegen.
Wenn ja, kommt hinzu
Sucht das System in einer eigenen Sammlung von Dokumenten oder Datensätzen nach passenden Inhalten?
Wenn ja, kommt hinzu
Formuliert das System seine Antwort aus gefundenen Dokumenten?
Wenn ja, kommt hinzu
Nutzt das System ein Begriffsnetz (Wissensgraph), in dem Begriffe und ihre Beziehungen gespeichert sind?
Wenn ja, kommt hinzu
Merkt sich das System Inhalte aus früheren Gesprächen oder Aufgaben und nutzt sie später wieder?
Wenn ja, kommt hinzu
Ruft das System selbst andere Programme, Schnittstellen oder Suchdienste auf, auch wenn es dort nur liest?
Wenn ja, kommt hinzu
Legt das System seine nächsten Arbeitsschritte selbst fest, je nachdem, was vorher herauskam?
Wenn ja, kommt hinzu
Gibt das System Aufgaben an andere KI-Agenten weiter oder übernimmt es deren Ergebnisse?
Wenn ja, kommt hinzu
Ist das System über das Model Context Protocol (MCP) an Werkzeuge oder Datenquellen angebunden?
Wenn ja, kommt hinzu
Verarbeitet das System Inhalte, die Außenstehende verfasst oder verändert haben können, etwa E-Mails, Uploads oder Webseiten?
Die Aufnahmen stammen aus eigenen Kameras und Mikrofonen an der Linie.
Wenn ja, kommt hinzu
Liegen Dokumente mehrerer Kunden, Abteilungen oder Berechtigungsgruppen im selben Suchspeicher?
Wenn ja, kommt hinzu
Erzeugt das System Programmcode, Skripte oder Datenbankabfragen, die weiterverwendet werden?
Wenn ja, kommt hinzu
Führt das System selbst Programme, Skripte oder Befehle aus?
Wenn ja, kommt hinzu
Soll das System eine vorgegebene Kennzahl möglichst verbessern, etwa Umsatz, Auslastung oder Klicks?
Wenn ja, kommt hinzu
Quellen
- Bericht über einen Einsatz
BMW Group, AIQX: Künstliche Intelligenz in der Qualitätsprüfung, 27. November 2023 Nach Angabe des Betreibers
Die BMW Group beschreibt den Einsatz von AIQX in ihren Werken, in Dingolfing auch für die Prüfung von Geräuschen.
- Bericht über einen Einsatz
automobil-produktion.de, Pressteile: Audi fahndet mit Machine Learning nach Rissen, 15. Oktober 2018
Der Bericht beschreibt ein Pilotprojekt im Presswerk Ingolstadt.
- Statistik
Statistisches Bundesamt, Unternehmen, die KI-Technologien nutzen, 2025
Von den Unternehmen, die KI nutzen, setzen 17 Prozent Bilderkennung ein.
- Weitere Quelle
Plattform Lernende Systeme, KI-Landkarte
Die KI-Landkarte führt die Qualitätskontrolle als eigenes Anwendungsfeld.
Verwandte Anwendungsfälle
Ebenfalls im Einsatzgebiet Produktion, Handel und Logistik
- Vorausschauende Instandhaltung (Predictive Maintenance)Aus Sensor- und Betriebsdaten erkennt das System, dass eine Maschine oder Anlage auszufallen droht, sodass sich die Wartung rechtzeitig planen lässt.
- Absatz- und BedarfsprognoseHändler lassen ein Modell vorhersagen, wie viel sich von jedem Artikel in jeder Filiale verkaufen wird, und leiten daraus Bestellvorschläge oder fertige Bestellungen ab.
Stand: 30. September 2026. Regelwerk der Prüfliste in Fassung 0.3.2, Bedrohungskatalog in Fassung 2026.10.24.2. Wie diese Seiten aufgebaut sind