Startseite > Medizintechnik > E-Health > Sicherheit und Privatsphäre im Zeitalter der KI

Medizintechnik-Entwicklung

Sicherheit und Privatsphäre im Zeitalter der KI

11. Juni 2024, 11:12 Uhr | Annett Petzold für die Messe Nürnberg

Dr. Abtin Rad vom TÜV Süd, Dr. Thomas Velten vom Fraunhofer IBMT und Prof. Joachim Schulze vom DZNE zeigen aus unterschiedlichen Perspektiven, wie Datenschutz und Sicherheit auch für KI-gestützte Medizinprodukte umsetzbar bleibt.

Swarm Learning kann nicht nur die Diagnose von Krankheiten verbessern, sondern auch den Datenschutz wahren. Experten von TÜV Süd, Fraunhofer IBMT und DZNE zeigen, wie Qualität und Sicherheit von KI-gestützten Medizinprodukten gewährleistet bleibt. Ein Blick auf die Zukunft der Patientenversorgung.

▶ Diesen Artikel anhören

»Die Komplexität von Prozessen und Produkten hat in vielen Bereichen einschließlich der Medizintechnik und Biotechnologie stark zugenommen und ist für den Menschen allein intellektuell immer schwieriger zu beherrschen«, sagt Dr. Thomas Velten, Leiter Innovationsmanagement am Fraunhofer-Institut für Biomedizinische Technik IBMT. Hier verspricht der Einsatz von künstlicher Intelligenz (KI) für viele Anwendungsbereiche großes Potenzial. Doch was ist mit dem Schutz sensibler Patientendaten?

Matchmaker+ Anbieter zum Thema

zu Matchmaker+

Die Bewertung von Compliance-Risiken bei KI-gestützten Systemen und Medizinprodukten erfolgt beispielsweise bei TÜV Süd; die Benannte Stelle begutachtet auch KI in Medizinprodukten und medizinischen Applikationen, immer durch Experten. »Grundsätzlich ist die Begutachtung von künstlicher Intelligenz in Medizinprodukten durch TÜV Süd ein wichtiger Schritt, um die Qualität und Sicherheit solcher Produkte zu gewährleisten. TÜV Süd ist eine der führenden Stellen für die Begutachtung von künstlicher Intelligenz in Medizinprodukten und medizinischen Applikationen. Die Bewertung erfolgt anhand der Anforderungen in den jeweiligen Konformitätsbewertungsverfahren und der Anforderungen aus dem Stand der Technik«, sagt Dr. Abtin Rad, Global Director Software Product Assessment bei TÜV Süd. So wird sichergestellt, dass die Daten, die zur Entwicklung und Validierung von KI-Modellen verwendet werden, von vorbestimmter und verifizierter Qualität sind und den geltenden Datenschutzbestimmungen entsprechen.

Datenschutz und Vertrauen

Die Verarbeitung biomedizinischer Daten mit datenschutzrechtlichen Fragestellungen gestaltet sich nicht leicht. In Deutschland gelten Patienten- und Gesundheitsdaten als äußerst sensibel und sind streng geschützt. Daten zu sammeln und zentral zu speichern, lässt sich angesichts der gesetzlichen Regelungen zum Datenschutz meist schwer umsetzen. »Datenschutz und Vertrauen sind in der Medizin zentral. Digitale Daten sind schützenswert, das gilt insbesondere für personenbezogene Daten«, sagt Prof. Joachim Schultze, Sprecher des Forschungskonsortiums und Direktor für Systemmedizin am DZNE, dem Deutschen Zentrum für Neurodegenerative Erkrankungen.
Doch um richtig trainiert zu werden, ist KI auf viele Daten angewiesen. Innerhalb der enormen Datenmenge zu Symptomen von Patienten besteht die Hoffnung, Schlüsselkomponenten für innovative, maßgeschneiderte Therapieansätze zu identifizieren. »Durch das Sammeln von medizinischen Daten kann die Entwicklung neuer, besserer Therapien profitieren. Die Medizin der Zukunft wird mittels künstlicher Intelligenz vernetzt und alle Beteiligten werden gleichermaßen davon profitieren«, so Schultze. »Patienten berichten ihre Symptome, wir messen noch ein paar Dinge und versuchen dann zu erkennen, auf welche Krankheit dies alles hindeuten könnte. Diesen Prozess unterfüttern wir jetzt mit sehr vielen und sehr genauen Daten. Allerdings haben wir damit so viele Daten, dass wir technische Hilfe benötigen, um die Muster zu erkennen.«

Swarm Learning zur Analyse von Patientendaten

Für das Sammeln und die Analyse von Patientendaten wurde aus diesem Grund eine alternative Lösung entwickelt, die gleichzeitig die Anforderungen des Datenschutzes vollständig erfüllt. Das DZNE entwickelte in Zusammenarbeit mit mehreren deutschen Forschungszentren ein KI-basiertes Auswertungssystem, das auf sogenanntem Swarm Learning basiert. Die KI-Technologie ermöglicht es, verteilte Datenbestände zu analysieren. »Wir haben gemeinsam mit dem IT-Unternehmen Hewlett Packard Enterprise eine Technologie entwickelt. Wir nennen sie Swarm Learning und sehen darin einen Gamechanger, was den Umgang mit Big Data, also großen Datenmengen, betrifft«, sagt Schultze. »Beim Swarm Learning sind beispielsweise die Anforderungen des Datenschutzes vollständig erfüllt, denn die eigentlichen Daten werden nicht ausgetauscht.« Das bedeutet, die Daten werden nicht zusammengetragen, sondern bleiben jeweils lokal auf den individuellen Geräten gespeichert.

Er und sein Team führten in einem spezifischen Anwendungsbereich eine Analyse von Tausenden medizinischer Datensätze durch. Hierbei handelte es sich um Röntgenaufnahmen der Lunge und molekulare Muster im Blut, die aus verschiedenen Quellen stammten. Mithilfe von Swarm Learning konnte die künstliche Intelligenz krankhafte Veränderungen der Lunge sowie Diagnosen von Leukämie, Tuberkulose und COVID-19 durchführen. In der Zukunft könnte eine künstliche Intelligenz, die auf diese Weise trainiert wurde, möglicherweise auch eine unterstützende Rolle bei der Analyse von Hirnscans oder Röntgenbildern übernehmen. Obwohl Ärzte nicht durch KI ersetzt werden können, stellt sie dennoch ein äußerst nützliches Werkzeug für deren tägliche Arbeit dar. Und Swarm Learning trägt dazu bei, die Leistungsfähigkeit der KI weiter zu steigern.

Verbesserte Sicherheit bereits in der Produktion

Des Weiteren hat der Einsatz von künstlicher Intelligenz auch schon während der Fertigung von Medizintechnik eine Wirkung auf die Zuverlässigkeit medizinischer Geräte. Insbesondere durch den Einsatz von KI-Algorithmen zur präventiven Identifikation potenzieller Geräteausfälle wird die Betriebssicherheit erhöht. Die fortschrittlichen Modelle analysieren kontinuierlich große Mengen an Gerätedaten, um frühzeitig Anomalien und Unregelmäßigkeiten zu erkennen, die auf mögliche Ausfälle hindeuten könnten. Durch diese proaktive Überwachung werden drohende Defekte identifiziert, bevor sie zu schwerwiegenderen Problemen führen können. Die Leistungsfähigkeit von KI in medizinischen Systemen für die Mustererkennung ist bereits nachgewiesen, und die Gründe, Daten von Medizingeräten mithilfe von KI-Algorithmen auszuwerten, sind vielseitig. Eine zeitnahe und die damit verbundene höhere Verfügbarkeit der Geräte hat positive Auswirkungen auf die Patientensicherheit und optimiert auch die Betriebsabläufe im Gesundheitswesen.

Beispielsweise werden in Produkten von Siemens Healthineers KI-basierte Vorhersagesysteme angewendet, die mit hoher Genauigkeit den Ausgang von Softwaretests vorhersagen. Und auch das Fraunhofer-Institut für Kognitive Systeme IKS forscht zu vertrauenswürdiger künstlicher Intelligenz und widmet sich der Entwicklung zuverlässiger KI-basierter Prognosen. Das Institut integriert ursachenbegründete Vorhersagemodelle für kausale Analysen, um fundierte Entscheidungen zu ermöglichen. Durch Zeitreihenanalysen werden historische Datenreihen bewertet, um zuverlässige, KI-gestützte Vorhersagen für künftige Entwicklungen zu erstellen. Diese Ansätze finden Anwendung in verschiedenen Bereichen wie vorausschauender Wartung von Produktionsanlagen. Methoden für robuste, zuverlässige und frühzeitige Vorhersagen zukünftiger Ereignisse werden dabei entwickelt.

Durch eine gezielte Integration von KI-Systemen können also zum einen die Effizienz und Genauigkeit medizinischer Diagnosen und Therapien gesteigert werden, wodurch letztendlich die Qualität der Patientenversorgung verbessert wird, und zum anderen bereits die Betriebssicherheit während der MedTech-Fertigung sichergestellt werden. Einen Blick auf die Zukunft der Patientenversorgung und die Medizintechnikproduktion liefert die MedtecLIVE vom 18. bis 20. Juni in Stuttgart. Christopher Boss, Geschäftsführer der Veranstaltung sagt: »Wir erleben eine rasante Entwicklung der KI, sind in Europa bei der Regulierung mit dem AI Act vorne dran und beleuchten auf der MedtecLIVE konkrete Anwendungsfelder und regulatorische Rahmenbedingungen von KI – in der Diagnostik genauso wie in der Produktion.« (uh)