Startseite > Medizintechnik > E-Health > Agentic AI in der Medizin: Wie Co-Piloten Ärzte sicher entlasten

Generative KI als Medizintechnik

Agentic AI in der Medizin: Wie Co-Piloten Ärzte sicher entlasten

28. Januar 2025, 17:01 Uhr | Ute Häußler

Hadas Bitran leitet die auf das Gesundheitswesen spezialisierte KI-Entwicklungsabteilung von Microsoft. Die Healthcare-Expertin verantwortet aus Israel heraus ein weltweites und multidisziplinäres F&E-Team, das an neuen Technologien und Praxisforschung zur Entwicklung innovativer KI-Produkte mit Schwerpunkt auf Medizin und Gesundheit arbeitet. In den letzten zehn Jahren hat Hadas Bitran eine ganze Palette von KI-Technologien entwickelt, die von Gesundheitssystemen auf der ganzen Welt benutzt werden.

Generative KI soll für Gesundheitswesen und Kliniken Effizienz-Schätze heben: Mit »Agentic AI« ziehen Co-Piloten in die medizinische Versorgung ein. Auf der Medica zeigte Hadas Bitran von Microsoft das Potential von GenAI und wie der Softwarekonzern seine Healthcare-Agents sicher machen will.

▶ Diesen Artikel anhören

Seit dem Launch von ChatGPT im November 2022 gibt es keine Woche, in der Neuigkeiten und Einsatzmöglichkeiten der generativen künstlichen Intelligenz (KI) nicht in Superlativen besprochen würden: insbesondere das datengetriebene, digitalisierte Gesundheitswesen soll von den Fortschritten der GenAI in besonderem Maße profitieren.

Healthcare in Zeiten von GenAI

Hadas Bitran, die Leiterin der auf das Gesundheitswesen spezialisierten KI-Entwicklungsabteilung von Microsoft, sprach auf dem Innovation Forum der Medica über das transformative Potenzial der generativen KI im Gesundheitswesen. In ihrem Vortrag zeigt sie insbesondere auf, wie mit dezidierter »Agentic AI« und sicheren Co-Piloten die Technologie neue Ansätze für einige der drängendsten Herausforderungen des Gesundheitswesens wie Fachkräftemangel, steigende Fallzahlen und datengetriebene Automatisierung liefern kann – um die Versorgung der Patienten zu verbessern und die Belastung für das medizinische Personal zu verringern.

»Generative KI zeigt ein enormes Potenzial, das Gesundheitswesen zu verändern«, so Bitran vor einem vollen Tech-Forum in Halle 13. Die Entwicklerin will mit Ihrer Arbeit die Grundlage dafür schaffen, dass die multimodale und bisher intelligenteste aller KI-Formen zur Verbesserung der Gesundheitsversorgung nutzbar und vor allem sicher wird. Die Gesundheitsbranche sei laut Bitran einer der größten Datenproduzenten weltweit – und dennoch blieben bisher noch 90 %Prozent dieser Daten ungenutzt. Dies stelle eine große Chance dar, generative KI zu nutzen, um den Wert von Gesundheitsdaten zu erschließen und Erkenntnisse zu gewinnen, die zu besseren klinischen Ergebnissen führen können.

Das Versprechen multimodaler KI-Modelle

Die Fähigkeit der generativen KI, Inhalte aus verschiedenen Datentypen zu verarbeiten und zu generieren - von Bilddaten bis hin zu unstrukturiertem Text und Sprache – ist für die Medizin von besonderem Wert. Bitran erklärte, dass multimodale Modelle perfekt für das Gesundheitswesen und dessen diverse Quelldaten wie Radiologiebilder, OP-Videos, Diktate oder Patientenakten geeignet seien. Generative KI könne die verschiedenen Datenformaten nahtlos integrieren und analysieren und damit ganzheitliche Ansätze für Ärzte und Patienten liefern.

Interaktion mit Patienten

Eine der wichtigsten Anwendungen der generativen KI im Gesundheitswesen sieht Bitran in einer neuen Form von Patienteninteraktion. KI-gestützte Agenten könnten aus Sicht der Expertin für Assistentenprogramme die Kommunikation zwischen Patienten und Medizinern effektiver gestalten, sei es durch Textkommunikation oder auch echte Gespräche. Diese Agenten könnten als virtuelle Helfer oder medizinische Chatbots zügig Fragen von Patienten beantworten, den Zugang zu Informationen einfacher und barrierefreier sowie damit die sogenannte Patientenreise effizienter für beide Seiten gestalten.

Darüber hinaus biete die generative KI erhebliche Vorteile für das Gesundheitspersonal. Angesichts der zunehmenden Belastung der Pflegeteams weltweit kann KI dazu beitragen, den Druck auf Ärzte und Krankenschwestern zu verringern. Bitran unterstreicht: »Die Stärkung von Pflegeteams durch KI, die Erleichterung deren Arbeit und eine geringere Belastung würden es den Pflegern und Ärzten ermöglichen, sich besser um ihre Patienten zu kümmern«. Durch die Automatisierung von Routineaufgaben und die Bereitstellung datengestützter Erkenntnisse ermögliche KI den medizinischen Fachkräften, sich mehr auf die Patientenversorgung als auf administrative Aufgaben zu konzentrieren.

Klinische Implementierungen: Galilee Medical Center
Das Galilee Medical Center im israelischen Nahariya nutzt die Microsoft Azure OpenAI Services, um radiologische Befunde in einfache Sprache zu übersetzen und damit auch für Nicht-Ärzte verständlich zu machen. Patienten können nach der Übersetzung Fragen zu spezifischen Befunden stellen und deren Bezug zum ursprünglichen radiologischen Bericht nachvollziehen. Ein integrierter »Clinical Provenance Safeguard« stellt dabei sicher, dass jede vereinfachte Information zum entsprechenden Abschnitt im Originalbefund zurückverfolgt werden kann.

Klinische Implementierungen: Galilee Medical Center

Das Galilee Medical Center im israelischen Nahariya nutzt die Microsoft Azure OpenAI Services, um radiologische Befunde in einfache Sprache zu übersetzen und damit auch für Nicht-Ärzte verständlich zu machen. Patienten können nach der Übersetzung Fragen zu spezifischen Befunden stellen und deren Bezug zum ursprünglichen radiologischen Bericht nachvollziehen. Ein integrierter »Clinical Provenance Safeguard« stellt dabei sicher, dass jede vereinfachte Information zum entsprechenden Abschnitt im Originalbefund zurückverfolgt werden kann.

Die Rolle von Copilot-Agenten und deren Sicherheit

Bitran stellte nach der Einführung zu Gen AI und dem klinischen und ambulanten Potential das Konzept der Co-Piloten näher vor; KI-gesteuerte Assistenten, die über die Zusammenführung von Daten und deren Nutzung in Large Language Modellen (LLMs) Geschäftsprozesse optimieren und die Produktivität im Gesundheitswesen steigern sollen. Was bei Microsoft vor vielen Jahrzehnten mit Tipps von Karl Klammer begann, soll jetzt mit den omnipräsent eingebundenen Agenten fortgesetzt werden. Die Co-Piloten können dabei in jedweder Büro- oder Klinik-Software eine Reihe von Aufgaben übernehmen, vom Abrufen von Informationen bis zur Orchestrierung von Arbeitsabläufen. Für den dezidierten Einsatz im Gesundheitswesen hat Microsoft in seinem branchenübergreifenden Copilot Studio bereits einen Dienst namens »Healthcare Agent« eingeführt, der als Plattform für die Erstellung dieser intelligenten medizinischen Agenten dienen soll und für die in der Branche explizit benötigte Sicherheit integrierte Schutzmechanismen bietet.

Medizinisch-sichere APIs und Safeguards
Zur Evaluierung und zusätzlichen Überprüfung von generativen KI-Ergebnissen sind bei den Microsoft Healthcare-AI-Services spezifische »Safeguards« und Schutzmechanismen verfügbar: Erkennen von falschen oder fehlenden Informationen in den GenKI-Antworten durch Vergleich mit den zugrunde liegenden Daten. Kontext-Funktion: Einbindung des klinischen Kontexts und die eindeutige Identifizierung von klinischen Daten in den Aufforderungen, damit der Co-Pilot besser damit arbeitet. Klinische Provenienz: eindeutige Identifizierung und Zuordnung von Ergebnissen zu den jeweiligen Quellen in den Basisdaten. Überprüfung der klinischen Kodierung, um zu verifizieren, dass die von der generativen KI bereitgestellten klinischen Codes tatsächlich existieren und für den Kontext relevant sind. Klinisch-semantische Validierung, um zu überprüfen, ob die Antworten den bekannten gültigen klinisch-semantischen Strukturen entsprechen.

Medizinisch-sichere APIs und Safeguards

Zur Evaluierung und zusätzlichen Überprüfung von generativen KI-Ergebnissen sind bei den Microsoft Healthcare-AI-Services spezifische »Safeguards« und Schutzmechanismen verfügbar:

Erkennen von falschen oder fehlenden Informationen in den GenKI-Antworten durch Vergleich mit den zugrunde liegenden Daten.
Kontext-Funktion: Einbindung des klinischen Kontexts und die eindeutige Identifizierung von klinischen Daten in den Aufforderungen, damit der Co-Pilot besser damit arbeitet.
Klinische Provenienz: eindeutige Identifizierung und Zuordnung von Ergebnissen zu den jeweiligen Quellen in den Basisdaten.
Überprüfung der klinischen Kodierung, um zu verifizieren, dass die von der generativen KI bereitgestellten klinischen Codes tatsächlich existieren und für den Kontext relevant sind.
Klinisch-semantische Validierung, um zu überprüfen, ob die Antworten den bekannten gültigen klinisch-semantischen Strukturen entsprechen.

Angesichts des sensiblen Charakters des Gesundheitswesens betont Bitran, wie wichtig es sei, solide Sicherheitsvorkehrungen gegen Halluzinationen sowie ungenaue oder unvollständige Antworten treffen. »Wir müssen besondere Maßnahmen ergreifen, die speziell auf das Gesundheitswesen zugeschnitten sind, um sicherzustellen, dass wir von den klinischen Co-Piloten eine qualitativ hochwertige Antwort erhalten«, unterstreicht sie. Zu diesen Schutzmaßnahmen gehören klinische sowie Chat- und Compliance-Schutzmaßnahmen, die sicherstellen, dass KI-generierte Inhalte zum einen medizinisch genau und zuverlässig sind sowie alle Regularien des Datenschutzes und der IT-Sicherheit einhalten.

Verantwortungsvolle, ethische Nutzung von KI

Obwohl das Potenzial der generativen KI im Gesundheitswesen immens ist, warnt Bitran davor, sie als Ersatz für menschliche Expertise zu betrachten. »Generative KI ist kein Ersatz für das menschliche Urteilsvermögen, für die menschliche Expertise«, ermahnt sie und unterstreicht, wie wichtig es ist, KI auf verantwortungsvolle und ethisch korrekte Art und Weise in den medizinischen Alltag zu integrieren. Bei Microsoft wird dazu jedes KI-Modell einer strengen Prüfung auf Fairness, Zuverlässigkeit, Sicherheit und Datenschutz unterzogen. Zwei wichtige Entwicklungskriterien für KI-Produkte seien deren Integrität und Transparenz.

KI-Kompetenz als wichtige Weiterbildung

Bezugnehmend auf das menschliche Urteilsvermögen bringt Hadas Bitran einen weiteren wichtigen Punkt für Kliniken und Praxen auf die Agenda. Mit dem zunehmenden Einsatz von KI müssen auch die medizinischen Fachkräfte in KI-Kenntnissen geschult sein. Bitran prognostiziert, dass sich die Arbeit von Ärzten, Schwestern, Pflegern und klinischen Organisatoren mit der Integration von KI-Tools weiterentwickelt, was wiederum neue Fähigkeiten erfordert. »KI-Kenntnisse sind die Fähigkeit zu verstehen, wie KI funktioniert, die KI zu nutzen, sie zu überwachen und sie kritisch zu betrachten«, sagt die Entwicklungsleiterin. Indem sie das Verständnis für KI verbessern, können Ärzte und Krankenschwestern die von KI generierten Ergebnisse besser beurteilen und interpretieren. Nur dies führe zu einer wirklichen Verbesserung in der Patientenversorgung.

Der Medica-Vortrag von Hadas Bitran zeigte aus Sicht eines Softwarekonzern recht eindrücklich, wie die Integration von generativer KI in das Gesundheitswesen verändern kann (und wird) und wie insbesondere die Co-Piloten als smarte medizinische Assistenten einen erfolgversprechenden Ansatz für seit langem bestehende Probleme in der Klinikorganisation bieten. Oder wie Bitran schlussfolgert: »KI wird Ärzte nicht ersetzen, aber Ärzte, die KI nutzen, werden diejenigen ersetzen, die es nicht tun«. Der knackige Spruch ist nicht auf die Medizin beschränkt, bringt aber den KI-Einsatz und die Zukunft des Gesundheitswesens auf einen Nenner – eine sehr nahe Zukunft, in der KI und menschliches Fachwissen Hand in Hand arbeiten.