Kommentar
Entwickler von Medizin-KI sollten den hippokratischen Eid ablegen
Die MDR ist für deutsche Medizintechnik-OEMs eine hohe Hürde, gerade in Kombi mit dem EU AI Act. Wie wichtig die strengen Anforderungen insbesondere für die Entwicklung von Medizin-KI jedoch sind, zeigt eine aktuelle Recherche in den USA - wo KI-Updates mutmaßlich über 100 Patienten verletzten.
Der Ausgangspunkt: Ein KI-Update für ein chirurgisches Navigationssystem soll während Nasennebenhöhlen-OPs u.a. Schlaganfälle ausgelöst haben – weil es den Chirurgen eine falsche Position anzeigte. Leider kein Einzelfall: Immer wieder landen unzureichend getestete KI-Medizinprodukte auf dem Markt. Ein Grund ist, dass die FDA KI-Software meist über den 510(k)-Pathway zulässt, ohne eine klinische Validierung zu verlangen. Das System testet am lebenden Patienten.
Zum Nachlesen: Komplikationen im OP |
|---|
Wenn das KI-Update zum Risiko wird |
Besonders bitter: Börsennotierte Unternehmen, die gut die Hälfte der zugelassenen KI-Produkte herstellten, waren für fast 92 Prozent der Rückrufe verantwortlich. Investorendruck schlägt Patientensicherheit – ein Mechanismus, der sich selten so klar belegen lässt. Wer Entwicklungszyklen auf Kosten der Validierung verkürzt, preist Komplikationen vorsätzlich ein.
Die MDR zwingt genau dazu, was hier fehlt: klinische Bewertung, lückenlose Post-Market-Surveillance, unabhängige Prüfung – über den gesamten Produktlebenszyklus. Das ist kein bürokratisches Hindernis, das ist Patientenschutz. Vielleicht wäre es Zeit, dass Softwareentwickler in der Medizintechnik ihren eigenen hippokratischen Eid ablegen: Primum non nocere – zuerst einmal nicht schaden.
Health Electronics Summit 2026
Safety & Cybersecurity - Medizinsysteme sicher entwickeln
22. September 2026, Mövenpick Airport Stuttgart
Zur Veranstaltungswebseite mit allen weiteren Informationen.
