KI überwachen nach dem Go-Live

Stand: 30.08.2026

KI ist nach der Einführung nicht fertig: Modelle können über die Zeit abdriften. Wie laufendes Monitoring von Leistung, Drift und Bias den sicheren Betrieb absichert.

Anders als ein normales Gerät kann eine KI im laufenden Betrieb schlechter werden, ohne dass etwas kaputtgeht. Ändern sich Geräte, Protokolle oder die Patientenpopulation, passt das Modell irgendwann nicht mehr so gut wie am Anfang. Deshalb endet die Verantwortung nicht mit dem Go-Live, sondern braucht ein laufendes Monitoring.

Worauf man achtet

• Leistung über die Zeit: bleibt die KI so treffsicher wie bei der Validierung?
• Drift: verschiebt sich die Eingangsdatenlage (neue Scanner, neue Einstellungen)?
• Bias: schneidet die KI bei bestimmten Gruppen systematisch schlechter ab?
• Auffälligkeiten im Alltag: häufen sich Korrekturen durch die Befundenden?

Mensch bleibt verantwortlich

Monitoring funktioniert nur mit klaren Zuständigkeiten: Wer schaut wie oft auf welche Kennzahlen, und was passiert bei einer Verschlechterung? Wichtig ist ein definierter Rückfallpfad, also die Möglichkeit, die KI bei Problemen abzuschalten oder zurückzunehmen. Die diagnostische Verantwortung bleibt immer beim Menschen; die KI ist Assistenz, kein Ersatz.

Teil des Qualitätssystems

Sinnvoll eingebettet ist das Monitoring kein Sonderfall, sondern Teil des QM-Systems: dokumentiert, mit Verantwortlichen und Turnus, prüfbar im Audit.

Merke: Eine KI einzuführen ist der Anfang, nicht das Ende. Ohne Monitoring merkt niemand, wenn sie schleichend schlechter wird, und genau das ist das eigentliche Risiko.