Startseite > Medizintechnik > E-Health > Gegen KI-Halluzinationen in der Medizin

Reproduzierbare und genaue GenAI

Gegen KI-Halluzinationen in der Medizin

24. April 2024, 11:55 Uhr | mit Material der TU Dresden (uh)

LLMs tragen wesentlich zur Strukturierung, Kategorisierung und Interpretation von medizinischen Informationen bei. Zu ihren Schwächen gehört die Erzeugung plausibler, aber falscher Informationen – sogenannte Halluzinationen – und die Erzeugung unterschiedlicher Antworten auf dieselbe Eingabe – ein sogenannter Nichtdeterminismus.

Große Sprachmodelle (LLMs) können die Verarbeitung medizinischer Daten unterstützen, die KI weist aber Schwächen auf. Als Kombinationen von LLMs mit Wissensgraphen könnte die »Retrieval Augmented Generation« die KI-Modelle robuster und genauer machen - und schneller zur Zulassung bringen.

▶ Diesen Artikel anhören

Sind große Sprachmodelle und Wissensgraphen der Schlüssel zu robuster, KI-basierter Medizintechnik? Forscher aus Dresden und Chile diskutieren in einem Fachartikel, wie die Kombination beider Technologien die Zuverlässigkeit und Genauigkeit Künstlicher Intelligenz im Gesundheitswesen erhöhen könnte.

Korrekte Einordnung medizinischer Daten

Medizinische Informationen zuverlässig aufzuzeichnen und zwischen Systemen auszutauschen, ist eine große Herausforderung im Gesundheitswesen. Ontologien und Wissensgraphen (Knowledge Graphs - KGs) können hier helfen, Konzepte zu kategorisieren und zu verknüpfen. Jedoch sind sie oft mehrdeutig und stehen vor ähnlichen Problemen wie natürliche Sprache.

Ontologien und Wissengraphen
Medizinische Ontologien funktionieren ähnlich wie Wörterbücher für medizinische Begriffe und helfen, medizinische Konzepte zu kategorisieren und zu definieren. Diese Ontologien sind jedoch oft mehrdeutig, da in der menschlichen Sprache Begriffe je nach Kontext unterschiedliche Bedeutungen haben können. Beispielsweise kann sich das englische Wort „cold“ auf die Körpertemperatur, auf Umweltbedingungen oder auf das klinische Syndrom der akuten Rhinitis (Schnupfen) beziehen. Wissensgraphen sind organisierte Netzwerke, die verschiedene medizinische Konzepte und ihre Beziehungen miteinander verbinden. Zum Beispiel kann der Begriff „COVID-19“ in einem KG mit „Fieber“ durch eine Verknüpfung mit der Bezeichnung „hat Symptom“ verbunden sein. KGs erleichtern es, medizinische Informationen zu verstehen und zu verarbeiten, stehen aber vor ähnlichen Herausforderungen wie medizinische Ontologien.

Ontologien und Wissengraphen

Medizinische Ontologien funktionieren ähnlich wie Wörterbücher für medizinische Begriffe und helfen, medizinische Konzepte zu kategorisieren und zu definieren. Diese Ontologien sind jedoch oft mehrdeutig, da in der menschlichen Sprache Begriffe je nach Kontext unterschiedliche Bedeutungen haben können. Beispielsweise kann sich das englische Wort „cold“ auf die Körpertemperatur, auf Umweltbedingungen oder auf das klinische Syndrom der akuten Rhinitis (Schnupfen) beziehen.

Wissensgraphen sind organisierte Netzwerke, die verschiedene medizinische Konzepte und ihre Beziehungen miteinander verbinden. Zum Beispiel kann der Begriff „COVID-19“ in einem KG mit „Fieber“ durch eine Verknüpfung mit der Bezeichnung „hat Symptom“ verbunden sein. KGs erleichtern es, medizinische Informationen zu verstehen und zu verarbeiten, stehen aber vor ähnlichen Herausforderungen wie medizinische Ontologien.

Kombination für robuste digitale Zwillinge

Die Forscher schlagen vor, LLMs und KGs in Form von »Retrieval Augmented Generation« zu kombinieren, um ihre Stärken zu nutzen. Dies ermöglicht eine strukturierte Argumentation, könnte Voreingenommenheit reduzieren und zuverlässigere, genauere Ergebnisse liefern, die auch für Benannte Stellen bei der KI-Zertifizierung akzeptabler sind. Prof. Jakob Kather, Professor für Klinische Künstliche Intelligenz an der TU Dresden und Onkologe am Dresdner Universitätsklinikum Carl Gustav Carus, sieht darin »den Anfang einer sehr spannenden Entwicklung«, wenn existierendes medizinisches Wissen mit den kognitiven Fähigkeiten von großen Sprachmodellen verknüpft werde.

Die Kombination könnte auch robuste digitale Zwillinge für personalisierte Diagnosen ermöglichen. Prof. Gilbert, Professor für Medical Device Regulatory Science an der TU Dresden, ergänzt: »Ansätze, die LLMs und KGs kombinieren, haben eine höhere Chance auf frühe Zulassung in konservativen Regulierungsverfahren.« (uh)

Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit
Das EKFZ für Digitale Gesundheit an der TU Dresden und dem Universitätsklinikum Carl Gustav Carus Dresden wurde im September 2019 gegründet. Es wird mit einer Fördersumme von 40 Millionen Euro für eine Laufzeit von zehn Jahren von der Else Kröner-Fresenius-Stiftung gefördert. Das Zentrum konzentriert seine Forschungsaktivitäten auf innovative, medizinische und digitale Technologien an der direkten Schnittstelle zu den Patientinnen und Patienten. Das Ziel ist dabei, das Potenzial der Digitalisierung in der Medizin voll auszuschöpfen, um die Gesundheitsversorgung, die medizinische Forschung und die klinische Praxis deutlich und nachhaltig zu verbessern.

Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit

Das EKFZ für Digitale Gesundheit an der TU Dresden und dem Universitätsklinikum Carl Gustav Carus Dresden wurde im September 2019 gegründet. Es wird mit einer Fördersumme von 40 Millionen Euro für eine Laufzeit von zehn Jahren von der Else Kröner-Fresenius-Stiftung gefördert. Das Zentrum konzentriert seine Forschungsaktivitäten auf innovative, medizinische und digitale Technologien an der direkten Schnittstelle zu den Patientinnen und Patienten. Das Ziel ist dabei, das Potenzial der Digitalisierung in der Medizin voll auszuschöpfen, um die Gesundheitsversorgung, die medizinische Forschung und die klinische Praxis deutlich und nachhaltig zu verbessern.