Künstliche Intelligenz
Verborgene Entscheidungen
Fortsetzung des Artikels von Teil 1
Kostenfreier Leitfaden: Checkliste der IG-NB
Die Sicherheit KI-basierter Medizinprodukte erfordert einen prozessorientierten Ansatz über alle Phasen des Lebenszyklus hinweg. Hilfestellung leistet ein kostenfreier Leitfaden der Interessengemeinschaft der Benannten Stellen für Medizinprodukte in Deutschland (IG-NB). Er beinhaltet rund 150 Anforderungen an die Entwicklung und Überwachung von Medizinprodukten im Markt. Das erleichtert das Inverkehrbringen neuer Technologien in einem zwangsläufig stark regulierten Umfeld und minimiert Risiken im Lebenszyklus medizinischer KI, bis zur Einführung spezifischer Normen und Standards.
Die Checkliste der IG-NB umfasst drei Bereiche
I Allgemeine Anforderungen
Spezifiziert werden hier die Zertifizierung von KI, die zugehörigen Prozesse und die geforderten Kompetenzen bei der Entwicklung – aber auch die sorgfältige Dokumentation.
II Anforderungen an die Produktentwicklung
- Zuerst geht es darum, den Zweck des Medizinprodukts zu bestimmen sowie die Anforderungen an die Stakeholder: Wer nutzt das Produkt in welchem Kontext? Welcher Input existiert für das Risikomanagement und für die klinische Bewertung?
- Es folgen Software-Anforderungen wie Funktionalität und Leistungsfähigkeit oder User Interfaces. Auch hier sind ein umfassendes Risikomanagement und eine klinische Bewertung notwendig.
- Das Datenmanagement beginnt mit der Sammlung der Trainings-, Validierungs- und Testdatensätzen. Sie müssen »gelabelt« werden. Neben den Verfahren zur Vorbereitung und Verarbeitung von Daten ist die Dokumentation und Versionskontrolle zentral.
- Bei der Modellentwicklung kommen die Vorbereitung, das Training und die Bewertung sowie die Dokumentation in den Blick.
- Die Produktentwicklung selbst gliedert sich in die Software-Entwicklung, der Erstellung der Begleitmaterialien sowie die Usability-Validierung und die Klinische Bewertung.
- Schließlich ist die Produktfreigabe noch einmal gesondert zu betrachten.
III Anforderungen an die nachgelagerten Phasen
Im Anschluss an die Entwicklung sollten die Produktion, Distribution und Installation betrachtet werden. Das ist genauso wichtig wie eine anschließende kontinuierliche Marktüberwachung.
Die Gesamtliste steht unter: www.ig-nb.de/dok_view?oid=795601 zum kostenlosen Download bereit.
Quellen
[1] Kundu S et al. Enabling early detection of osteoarthritis from presymptomatic cartilage texture maps via transport-based learning. Proc Natl Acad Sci U S A. 2020 Oct 6;117(40):24709-24719. doi: 10.1073/pnas.1917405117. Epub 2020 Sep 21. PMID: 32958644; PMCID: PMC7547154.
[2] Caruana RA et al. Intelligible Models for HealthCare: Predicting Pneumonia Risk and Hospital 30-day Readmission. KDD '15: Proceedings of the 21st ACM SIGKDD International Conference on Knowledge Discovery and Data MiningAugust 2015 Pages 1721–1730. https://doi.org/10.1145/2783258.2788613.
[3] Merriam-Webster.com Dictionary, Merriam-Webster, https://www.merriam-webster.com/dictionary/artificial%20intelligence . (Stand 14. November 2020)
- Verborgene Entscheidungen
- Kostenfreier Leitfaden: Checkliste der IG-NB
Lesen Sie mehr zum Thema
