Messeführer Medica & Compamed 2025

28. Oktober 2025, 10 Bilder

Fraunhofer FIT – Transparente KI-Entwicklung für die Medizin

Das Fraunhofer FIT zeigt am Fraunhofer-Gemeinschaftsstand der Medica mit der TrainVis-Plattform ein Entwicklungswerkzeug, das beim Training medizinischer KI-Modelle Transparenz über Datenquellen, Trainingsverhalten und Modellperformance schafft. Das interaktive Dashboard macht den Einfluss verschiedener Datenquellen und Subsets während des Trainingsprozesses in Echtzeit nachvollziehbar und ermöglicht Entwicklern, datenbedingte Bias-Effekte und Klassifikationsfehler systematisch zu identifizieren. Am Beispiel eines Hautkrebsdetektionsmodells lässt sich visuell analysieren, wie sich unterschiedliche Datensätze auf die Modellgenauigkeit auswirken – differenziert nach Klassen, Quellen und Trainingsiterationen.

Die Plattform kombiniert Datensatzstatistiken, Trainingsmetriken und Konfusionsmatrizen mit farbcodierten Visualisierungen, die sowohl absolute als auch relative Metriken darstellen. Entwickler können den Trainingsverlauf interaktiv durchlaufen, kritische Datenpunkte identifizieren und gezielt optimieren, wo einzelne Datensubsets die Gesamtleistung beeinflussen. Die Lösung adressiert zentrale Herausforderungen beim Aufbau vertrauenswürdiger Medical-AI-Systeme: nachvollziehbare Modellentscheidungen, Debugging von Trainingsanomalien und datengetriebene Optimierung. Ergänzend bietet das Fraunhofer-Weiterbildungszentrum zertifizierte Programme für KI-Entwicklung im Healthcare-Kontext mit praxisorientierten Lernlaboren.