Eingabedaten und Informationsquellen
Aufnahmen anderer Praxen oder Kliniken stammen nicht von den eigenen Geräten. Jede Aufnahme gehört zu einer Patientin oder einem Patienten und trägt Name, Geburtsdatum und Untersuchungsdaten.
KI in der medizinischen Bildauswertung
Englisch: AI in medical imaging
Auf Röntgen-, CT-, MRT- oder Mammographieaufnahmen markiert das System Auffälligkeiten und hilft Ärztinnen und Ärzten, den Befund zu stellen.
Den Anwendungsfall verstehen
Was macht diesen Anwendungsfall aus?
Das Modell lernt aus Aufnahmen mit ärztlich gesichertem Befund und markiert dann Auffälligkeiten, stuft Aufnahmen ein oder sortiert die Arbeitsliste. Solche Systeme laufen im deutschen Mammographie-Screening, und in den USA sind Hunderte davon als Medizinprodukte für die Radiologie zugelassen.
Die Seite beschreibt einen typischen Aufbau. Die tatsächlichen Datenwege und Befugnisse ergeben sich aus Ihrer Umsetzung.
- Bauform
- Auswertung und Verarbeitung
- Handlungsmacht
- Handlungsrechte je nach Einbindung
- Einsatzfelder
- Gesundheitswesen
- Auch bekannt als
- Radiologie-KI, KI-Befundunterstützung, KI im Mammographie-Screening
Funktionsweise und Ablauf
Aufbau und Datenwege
Eingabedaten
Röntgen-, CT-, MRT- oder Mammographieaufnahmen kommen aus dem Bildarchiv der Klinik oder Praxis.
Aufnahmen anderer Praxen oder Kliniken stammen nicht von den eigenen Geräten. Manche Systeme beziehen neben der Aufnahme auch Voraufnahmen oder klinische Angaben ein.
Verarbeitung
Ein Bildmodell sucht nach Mustern, die es aus Aufnahmen mit gesichertem Befund gelernt hat.
Das Modell verarbeitet die Bilddaten und erzeugt etwa Markierungen, Segmentierungen oder Hinweise auf auffällige Strukturen. Diese Ergebnisse beziehen sich auf die ausgewählte Bildaufgabe und das verwendete Modell. Die Einordnung in den individuellen Befund erfolgt im anschließenden klinischen Arbeitsablauf.
Ergebnisse
Auffällige Stellen sind markiert, dazu kommt eine Einstufung oder ein Platz in der Arbeitsliste.
Das Ergebnis beschreibt die definierte Modellaufgabe. Ein Treffer, eine Kategorie oder eine Prognose erhält seine fachliche Bedeutung erst zusammen mit den zugrunde liegenden Daten und dem vorgesehenen Verwendungszweck.
Nutzung und Auswirkungen
Mit dieser Hilfe stellt die Ärztin oder der Arzt den Befund und entscheidet, ob die Patientin oder der Patient weiter untersucht oder behandelt wird.
Die Einbindung bestimmt, ob das Ergebnis lediglich angezeigt, nach Freigabe übernommen oder direkt in ein Fachverfahren geschrieben wird. Diese Varianten unterscheiden sich in ihren Datenwegen und Befugnissen.
Aufbau aktiv erkunden: Wählen Sie einen Baustein, um seine Aufgabe, die ein- und ausgehenden Daten und die Einbindung im Anwendungsfall zu sehen. Der geführte Ablauf erläutert jede Phase. Mit Ja, Offen und Nein können Sie anschließend Ihre konkrete Systemvariante abbilden.
8 zuerst zu prüfen11 zu klären6 Grundlagen
- Vorhanden
- Hängt von Ihrem System ab
- Nicht vorhanden
- Zuerst zu prüfen
- Zu klären
So nutzen Sie das Modell
Das Bild zeigt den Anwendungsfall, wie er typischerweise gebaut ist. Wählen Sie einen Baustein, um zu sehen, was dort geschieht, und stellen Sie seine Merkmale auf Ihr System um. Mit „Analysehinweise“ sehen Sie anschließend, welche Prüfkandidaten zu diesem Aufbau gehören. Die Prüfliste der Seite bleibt auf den typischen Fall bezogen.
Abweichungen vom typischen Fall
Noch keine. Jede Umstellung erscheint hier.
Wo die meisten Bedrohungen ansetzen
- 5 zu klären
- 3 zuerst zu prüfen, 1 zu klären
- 1 zuerst zu prüfen, 1 zu klären
- 1 zuerst zu prüfen, 1 zu klären
Im gezeigten Aufbau: 8 zuerst zu prüfen, 11 zu klären, 6 Grundlagen.
Aufbau als Liste
Zugang von außen: Hängt von Ihrem System ab
Zu klären
Eingabe: Gehört zu jedem KI-System
Zuerst prüfen
Zu klären
Grundlage für jedes KI-System
Inhalte Dritter: Hängt von Ihrem System ab
KI-Modell: Gehört zu jedem KI-System
Zuerst prüfen
- Modell-Drift & -Degradation Prüfschwerpunkt
Dienst eines Anbieters: Vorhanden
Zuerst prüfen
Zu klären
Training und Rückmeldung: Vorhanden
Zuerst prüfen
Zu klären
Ergebnis: Gehört zu jedem KI-System
Zuerst prüfen
- Unsicherer Umgang mit Modellausgaben Prüfschwerpunkt
Zu klären
Fachanwendung oder Anlage: Hängt von Ihrem System ab
Zu klären
Mensch: Gehört zu jedem KI-System
Zuerst prüfen
- Übermäßiges Vertrauen in das KI-System Prüfschwerpunkt
Betroffene Person: Vorhanden
KI-Dienste ohne Freigabe: Hängt von Ihrem System ab
Zu klären
Lieferkette und technische Basis: 5 Grundlagen, die für jedes KI-System gelten
Grundlage für jedes KI-System
Abgrenzung zu ähnlichen Anwendungsfällen
Klinische Entscheidungsunterstützung (etwa Sepsis-Früherkennung)
Wertet laufend Vitaldaten, Laborwerte und Patientenakte aus statt einzelner Aufnahmen
Visuelle und akustische Qualitätsprüfung
Prüft Bauteile und Produkte in der Fertigung
Daten und Informationen
Verarbeitung und Betriebsumgebung
Die Systeme kommen in der Regel als Medizinprodukt eines Herstellers.
Speicherung und weitere Nutzung
Manche Kliniken passen das Modell mit eigenen Aufnahmen an, die meisten nutzen das Produkt unverändert. Korrigierte Befunde können an den Hersteller zurückgehen und in künftige Fassungen einfließen.
Ergebnisse und Datenweitergabe
Je nach Einbindung legt das System Ergebnisse selbst im Radiologie-Informationssystem ab oder sortiert die Arbeitsliste um. Wertet ein Clouddienst die Aufnahmen aus, verlassen Gesundheitsdaten die eigene Umgebung.
Ein eingebundener Anbieter legt den Verarbeitungsort nicht automatisch fest. Speicherort, Unterauftragnehmer, Löschfristen und die Nutzung für Training sind im konkreten Betrieb zu prüfen.
Risiken einordnen und Maßnahmen festlegen
Vom Systemverständnis zur Risikoanalyse
- System abgrenzen
Daten, Beteiligte, Schnittstellen und Rechte erfassen. Offene Merkmale im Modell klären.
- Bedrohungen untersuchen
Prüfkandidaten auf die tatsächlichen Datenwege beziehen: Was könnte passieren und wer wäre betroffen?
- Risiko bewerten
Auswirkungen und Eintrittswahrscheinlichkeit im Einsatzkontext bewerten. Die Anzahl der Prüfkandidaten ist kein Risikowert.
- Maßnahmen nachweisen
Geeignete Kontrollen auswählen, Verantwortliche und Wirksamkeitsprüfungen festlegen. Restrisiken und Freigaben dokumentieren.
Wichtige Bedrohungen im Anwendungskontext
- 3 besonders wichtig
- 5 üblich
- 11 je nach System
- 6 weitere bei jedem KI-System
Insgesamt kommen bei diesem Anwendungsfall 25 Bedrohungen aus dem Bedrohungskatalog infrage.
Außerdem prüfen: ob die Ergebnisse fachlich stimmen
Prüfen Sie, wie verlässlich die ausgegebenen Wahrscheinlichkeiten sind, ob Testdaten ins Training gerutscht sind und was ein Fehler im Fachverfahren anrichtet.
Außerdem prüfen: ob das System Gruppen benachteiligt
Prüfen Sie, ob Auswahl, Rangfolge oder Bewertung Menschen mit geschützten Merkmalen benachteiligen, etwa nach Geschlecht, Alter oder Herkunft.
Außerdem prüfen: Sicherheit für Menschen und Anlagen
Prüfen Sie unabhängige Sicherheitsfunktionen, die Grenzen des vorgesehenen Einsatzbereichs und die Sicherheitsnachweise, die Ihre Branche verlangt.
Vorrangige Prüfansätze
Übermäßiges Vertrauen in das KI-System
Wer täglich viele Aufnahmen mit KI-Markierungen befundet, schaut mit der Zeit vor allem dort genau hin, wo das System etwas markiert hat. Was es nicht markiert, wird dann leichter übersehen.
Ein neues Röntgengerät, andere Aufnahmeeinstellungen oder eine andere Patientengruppe verändern die Bilder, ohne dass das Modell davon erfährt. Die Trefferquote sinkt dann unbemerkt unter den Wert, mit dem das Produkt geprüft wurde.
Unsicherer Umgang mit Modellausgaben
Sortiert das System die Arbeitsliste nach seiner Einstufung, rücken scheinbar unauffällige Aufnahmen nach hinten. Liegt es falsch, liest jemand einen dringenden Befund erst spät.
5 weitere Prüfkandidaten im typischen Aufbau
Weitere relevante Bedrohungen
Gezielte Datenvergiftung / Label-Vergiftung
Wer die Kennzeichnungen in den Trainingsdaten fälscht, kann die Ergebnisse des Modells gezielt verschieben.
Steht hier wegen dieser Eigenschaft
- Lernt aus Beispielen mit richtiger Antwort
Über Trainingsdaten oder ein übernommenes Grundmodell kann das Modell versteckte Auslöser für Fehlverhalten enthalten.
Steht hier wegen dieser Eigenschaft
- Nutzt ein Modell eines anderen Anbieters
Mit gezielten Abfragen lassen sich personenbezogene und schutzbedürftige Trainingsdaten teilweise aus dem Modell zurückgewinnen.
Steht hier wegen dieser Eigenschaften
- Verarbeitet personenbezogene Daten
- Verarbeitet vertrauliche Daten
Offenlegung sensibler Informationen
Vertrauliche Inhalte können in Antworten, im mitgegebenen Kontext oder in Protokollen auftauchen.
Steht hier wegen dieser Eigenschaften
- Verarbeitet personenbezogene Daten
- Verarbeitet vertrauliche Daten
Exfiltration aus der ML-Anwendung
Schutzbedürftige Daten können über Werkzeuge, Netzverbindungen, Speicher oder Innentäter abfließen.
Steht hier wegen dieser Eigenschaft
- Verarbeitet vertrauliche Daten
Je nach Aufbau Ihres Systems kommen bis zu 11 weitere hinzu. Neun Bedrohungen prüfen Sie bei jedem KI-System. Drei davon sind hier besonders wichtig und stehen deshalb oben.
Systemmerkmale und offene Fragen
Jedes Ja setzt weitere Bedrohungen auf Ihre Prüfliste, insgesamt bis zu 11. Können Sie eine Frage noch nicht beantworten, prüfen Sie die Bedrohungen mit.
- Kommt mit diesem Ja hinzu
- Braucht zusätzlich ein Ja auf eine andere Frage
Wie Ihr System gebaut ist
- Schreibt eigene Texte2 Bedrohungen, 1 weitere nur zusammen mit weiteren Merkmalen
- Verarbeitet Text, Bild und Sprache gemeinsam2 Bedrohungen
- Lernt aus Ihren eigenen Daten1 Bedrohung, 1 weitere nur zusammen mit weiteren Merkmalen
- Verändert Daten oder löst Vorgänge aus1 Bedrohung
- Verwertet Rückmeldungen aus dem Betrieb1 Bedrohung
Wie Sie das System betreiben
- Ist für Menschen außerhalb der Organisation nutzbar5 Bedrohungen
- Nimmt Anfragen direkt über eine Schnittstelle an4 Bedrohungen, 1 weitere nur zusammen mit weiteren Merkmalen
- Ist über ein Netzwerk erreichbar2 Bedrohungen, 1 weitere nur zusammen mit weiteren Merkmalen
- Verursacht mit jeder Anfrage Kosten1 Bedrohung
- Teilt Rechenleistung mit anderen Kunden oder Anwendungen1 Bedrohung
- Neben KI-Diensten ohne Freigabe im Einsatz1 Bedrohung
Wie Ihr System gebaut ist
Schreibt das System eigene Texte, etwa Antworten, Entwürfe oder Zusammenfassungen?
Die meisten Systeme markieren Auffälligkeiten und stufen die Aufnahme ein, manche formulieren zusätzlich einen Befundvorschlag.
Wenn ja, kommt hinzu
Kann das System selbst etwas verändern, etwa Daten speichern, Nachrichten senden, Buchungen auslösen oder Rechte vergeben?
Je nach Einbindung legt das System Ergebnisse selbst im Radiologie-Informationssystem ab oder sortiert die Arbeitsliste um.
Wenn ja, kommt hinzu
Trainiert oder verfeinert Ihre Organisation das Modell selbst mit eigenen Daten?
Manche Kliniken passen das Modell mit eigenen Aufnahmen an, die meisten nutzen das Produkt unverändert.
Wenn ja, kommt hinzu
Fließen Rückmeldungen oder Ergebnisse aus dem Betrieb später in Auswertung oder Training ein?
Korrigierte Befunde können an den Hersteller zurückgehen und in künftige Fassungen einfließen.
Wenn ja, kommt hinzu
Verarbeitet das System mehrere Arten von Eingaben zusammen, etwa Text mit Bild oder Sprache?
Manche Systeme beziehen neben der Aufnahme auch Voraufnahmen oder klinische Angaben ein.
Wenn ja, kommt hinzu
Wie Sie das System betreiben
Diese Fragen stellen sich bei fast jedem KI-System.
Können Personen oder Programme dem Modell direkt Anfragen stellen, zum Beispiel über eine Schnittstelle?
Wenn ja, kommt hinzu
Ist das System über ein Netzwerk erreichbar oder auf Dienste im Netz angewiesen?
Wenn ja, kommt hinzu
Zahlen Sie je Anfrage oder je Rechenzeit, sodass die Kosten mit der Nutzung steigen?
Wenn ja, kommt hinzu
Teilt sich das System Server oder Rechenleistung mit anderen Kunden oder Anwendungen?
Wenn ja, kommt hinzu
Können Menschen außerhalb Ihrer Organisation das System nutzen, auch ohne Anmeldung?
Wenn ja, kommt hinzu
Nutzen Beschäftigte für diese Aufgabe auch KI-Dienste, die Ihre Organisation nicht freigegeben hat?
Wenn ja, kommt hinzu
Maßnahmen und Umsetzung
Maßnahmen zu den Prüfschwerpunkten sind direkt geöffnet. Die verlinkten Maßnahmen erläutern jeweils die Umsetzung.
PrüfschwerpunktÜbermäßiges Vertrauen in das KI-System3 Maßnahmen
PrüfschwerpunktModell-Drift & -Degradation3 Maßnahmen
PrüfschwerpunktUnsicherer Umgang mit Modellausgaben3 Maßnahmen
Gezielte Datenvergiftung / Label-Vergiftung3 Maßnahmen
Backdoor im ML-Modell2 Maßnahmen
Privacy-Angriffe3 Maßnahmen
Offenlegung sensibler Informationen3 Maßnahmen
Exfiltration aus der ML-Anwendung3 Maßnahmen
Maßnahmen gegen die übrigen Bedrohungen finden Sie auf deren Seiten im Bedrohungskatalog.
Vorschriften der KI-Verordnung
-
Art. 4: KI-Kompetenz
Für jedes KI-System Gilt seit dem 2. Februar 2025.
-
Art. 6 Abs. 1, Anhang I Abschnitt A: Sicherheitsbauteil eines geprüften Produkts
Bei typischem Einsatz Prüfanlass ab dem 2. August 2028.
Gilt für jedes KI-System
Art. 4: KI-Kompetenz
Greift, wenn Beschäftigte oder Beauftragte KI-Systeme betreiben oder nutzen.
Gilt seit dem 2. Februar 2025.
Pflichten und Einzelheiten zu Art. 4: KI-Kompetenz
- Wer die Pflichten trägt
- Anbieter, Betreiber, Produkthersteller, Anbieter eines KI-Modells mit allgemeinem Verwendungszweck
Die Pflichten im Einzelnen
Kann beim üblichen Einsatz greifen
Art. 6 Abs. 1, Anhang I Abschnitt A: Sicherheitsbauteil eines geprüften Produkts
Greift, wenn das System als Medizinprodukt nach der Verordnung (EU) 2017/745 auf den Markt kommt und eine Benannte Stelle es prüfen muss. Bei Software für Befund und Frühwarnung ist das nach Regel 11 meist der Fall.
Gilt ab dem 2. August 2028.
Pflichten und Einzelheiten zu Art. 6 Abs. 1, Anhang I Abschnitt A: Sicherheitsbauteil eines geprüften Produkts
- Allgemein lautet die Bedingung
- Greift, wenn das System selbst ein Produkt oder Sicherheitsbauteil eines Produkts ist, das nach den Vorschriften in Anhang I von Dritten geprüft werden muss, etwa Maschinen, Aufzüge, Medizinprodukte oder Spielzeug.
- Ausnahme
- Systeme, die nur Bedienung, Leistung oder Komfort verbessern und nichts mit Sicherheit zu tun haben, gelten nach Art. 6 Abs. 1a bis 1c nicht als Sicherheitsbauteil.
- Wer die Pflichten trägt
- Anbieter, Betreiber, Produkthersteller
Die Pflichten im Einzelnen
- Einstufung prüfen und begründen
- Risikomanagementsystem einrichten und betreiben
- Technische Dokumentation erstellen
- Genauigkeit, Robustheit und Cybersicherheit gewährleisten
- Konformitätsbewertung durchführen
- EU-Konformitätserklärung ausstellen und CE-Kennzeichnung anbringen
- Systeme nach dem Inverkehrbringen überwachen
Ihr System im Schnellprüfer einordnen Alle Pflichten im Pflichtenkompass
Übergreifende Bedrohungen
Diese Bedrohungen prüfen Sie bei jedem KI-System, egal wofür es eingesetzt wird.
- Lieferkette: Infrastruktur
- Lieferkette: Modelle
- Lieferkette: Datensätze
- Adversariale Eingaben
- Unsicherer Umgang mit Modellausgaben Prüfschwerpunkt: Unsicherer Umgang mit Modellausgaben
- Anwendungs-Schwachstellen
- Übermäßiges Vertrauen in das KI-System Prüfschwerpunkt: Übermäßiges Vertrauen in das KI-System
- Modell-Drift & -Degradation Prüfschwerpunkt: Modell-Drift & -Degradation
- Middleware-Exploits (Angriffe auf AI-Frameworks)
Abweichende Systemmerkmale
15 weitere Fragen ansehen
Trifft eine dieser Fragen bei Ihrem System doch zu, kommen die genannten Bedrohungen hinzu.
Erzeugt oder verändert das System Bilder, Töne, Stimmen oder Videos?
Wenn ja, kommt hinzu
Schreibt oder gestaltet das System auf freie Anfrage neue Inhalte, die Menschen direkt lesen, sehen oder hören? Übersetzen, Vorlesen und Abschreiben zählen nicht.
Wenn ja, kommt hinzu
Kann man dem System in normaler Sprache Aufträge geben, die es dann ausführt?
Das System wertet Aufnahmen aus und nimmt keine Aufträge in normaler Sprache entgegen.
Wenn ja, kommt hinzu
Sucht das System in einer eigenen Sammlung von Dokumenten oder Datensätzen nach passenden Inhalten?
Wenn ja, kommt hinzu
Formuliert das System seine Antwort aus gefundenen Dokumenten?
Wenn ja, kommt hinzu
Nutzt das System ein Begriffsnetz (Wissensgraph), in dem Begriffe und ihre Beziehungen gespeichert sind?
Wenn ja, kommt hinzu
Merkt sich das System Inhalte aus früheren Gesprächen oder Aufgaben und nutzt sie später wieder?
Wenn ja, kommt hinzu
Ruft das System selbst andere Programme, Schnittstellen oder Suchdienste auf, auch wenn es dort nur liest?
Wenn ja, kommt hinzu
Legt das System seine nächsten Arbeitsschritte selbst fest, je nachdem, was vorher herauskam?
Wenn ja, kommt hinzu
Gibt das System Aufgaben an andere KI-Agenten weiter oder übernimmt es deren Ergebnisse?
Wenn ja, kommt hinzu
Ist das System über das Model Context Protocol (MCP) an Werkzeuge oder Datenquellen angebunden?
Wenn ja, kommt hinzu
Liegen Dokumente mehrerer Kunden, Abteilungen oder Berechtigungsgruppen im selben Suchspeicher?
Wenn ja, kommt hinzu
Erzeugt das System Programmcode, Skripte oder Datenbankabfragen, die weiterverwendet werden?
Wenn ja, kommt hinzu
Führt das System selbst Programme, Skripte oder Befehle aus?
Wenn ja, kommt hinzu
Soll das System eine vorgegebene Kennzahl möglichst verbessern, etwa Umsatz, Auslastung oder Klicks?
Wenn ja, kommt hinzu
Quellen
- Fachstudie
Universität zu Lübeck, KI verbessert Brustkrebserkennung (PRAIM-Studie), 7. Januar 2025
Die Studie beschreibt KI im laufenden deutschen Mammographie-Screening, wobei Radiologinnen und Radiologen den Befund weiter selbst stellten.
- Register oder Fallsammlung
Sivakumar u. a., FDA Approval of AI/ML Devices in Radiology, JAMA Network Open 2025
Laut der Auswertung stellt die Radiologie die meisten KI-Medizinprodukte, überwiegend mit einer 510(k)-Freigabe statt einer Zulassung im engeren Sinn.
- Register oder Fallsammlung
U.S. Food and Drug Administration, Artificial Intelligence-Enabled Medical Devices
Das amtliche Verzeichnis führt KI-Medizinprodukte, die in den USA vermarktet werden dürfen, die meisten davon für die Radiologie.
- Rechtsakt, Norm oder Standard
DIN und DKE, Deutsche Normungsroadmap Künstliche Intelligenz, Ausgabe 2
Die Normungsroadmap behandelt die Medizin als eigenes Themenfeld.
Verwandte Anwendungsfälle
Ebenfalls im Einsatzgebiet Gesundheit und Rettungswesen
- Klinische Entscheidungsunterstützung (etwa Sepsis-Früherkennung)Das System wertet Vitaldaten, Laborwerte und Patientenakte laufend aus und warnt das Behandlungsteam, wenn sich der Zustand einer Patientin oder eines Patienten zu verschlechtern droht.
- KI-Unterstützung in der NotrufannahmeWährend eines Notrufs hört das System mit und weist Disponentinnen und Disponenten in der Leitstelle auf Anzeichen eines Notfalls hin, etwa auf einen Herzstillstand.
Oft zusammen eingesetzt mit
Stand: 30. September 2026. Regelwerk der Prüfliste in Fassung 0.3.2, Bedrohungskatalog in Fassung 2026.10.24.2. Wie diese Seiten aufgebaut sind