Startseite > Medizintechnik > E-Health > Ärzte misstrauen Googles KI noch

Med-Chatbot im Klinik-Einsatz

Ärzte misstrauen Googles KI noch

20. Juli 2023, 13:56 Uhr | Ute Häußler

Google testet sein medizinisches KI-Programm MedPalm 2 in amerikanischen Kliniken. Die Chatbot-Technologie lernt u.a. anhand medizinischer Zulassungsprüfungen. KI-Experten würden die Gesundheit ihrer Familie dennoch nicht in die Hände der KI legen.

▶ Diesen Artikel anhören

Google testet ein KI-Programm names MedPalm 2, das medizinische Fragen kompetent beantworten kann. Der Internetriese konkurriert damit vor allem mit Microsoft, um die neuesten Fortschritte der künstlichen Intelligenz in Produkte für das Gesundheitswesen umzusetzen. Insbesondere sollen Ärzte in der Versorgung ihrer Patienten und der Dokumentation unterstützt werden.

Chat GPT trainiert mit Medizinexamen

Laut einem Artikel der Washinton Post ist Google zuversichtlich, dass sein medizinischer Chatbot MedPalm 2, der mit Fragen und Antworten aus medizinischen Zulassungsprüfungen trainiert wurde, besser geeignet ist, Gespräche über Gesundheitsthemen zu führen, als allgemeine generative Algorithmen wie ChatGPT.

Bereits seit April testet Google sein System mit Kunden aus dem Gesundheitsbereich, darunter auch in Häusern der renommierten Mayo Clinic. MedPalm 2 kann medizinische Fragen beantworten und Aufgaben wie das Zusammenfassen von Dokumenten oder das Organisieren von Gesundheitsdaten ausführen. Dies wurde von Google-Führungskräften und in veröffentlichten Studien bestätigt. Die Medizin-KI basiert auf dem Palm-2-Large-Language-Model (LLM) von Google, welches auch als Grundlage für Bard, den Konkurrenten von ChatGPT, dient. Laut einem auf der Entwicklerkonferenz I/O veröffentlichten Paper könne MedPalm 2 gut argumentieren und die Antworten entsprächen dem medizinischen Konsens - manchen Patienten waren die KI-Antworten angeblich sogar lieber, als die der echten Ärzte.

Die Gesundheitsbranche ist über generative Ki-Modelle zu einem neuen Schlachtfeld im Kampf zwischen großen Technologieunternehmen geworden. Allerdings hatten frühere Bemühungen wie die Watson Health Initiative von IBM Schwierigkeiten, die Technologie in nachhaltige Gewinne umzuwandeln.

Medizinisches Risiko: Die Bots sind nicht genau

Dies liegt unter anderem daran, dass die KI-Modelle trotz intensiven Trainings noch nicht sehr genau arbeiten - was für einen Einsatz im Gesundheitswesen unabdingbar ist. Dieses Problem hat auch Microsoft, dessen Zusammenarbeit mit Epic und seiner elektronischer Patientenakte auf der Integration von OpenAI in MS Azure und der Entwicklung einer eigenen medizinischen KI-Chat-Technologie basiert. Sowohl Google als auch Microsoft hatten öffentlich zugesichert, die Vertraulichkeit von Patientendaten zu wahren und behaupten, dass sie ihre Modelle nicht mit Daten von echten Patienten trainieren (= Henne-Ei-Problem).

Laut einer internen Google-E-Mail, die dem Wall Street Journal vorliegt, könnte das aktualisierte Modell möglicherweise »in Ländern mit begrenztem Zugang zu Ärzten von großer Bedeutung sein«. Dennoch befinde sich die medizinische KI-Technologie in einem sehr frühen Entwciklungsstadium, wie der Tech-Konzern zugibt. Für die Gesundheitsversorgung seiner Familie wolle er die Technologie noch nicht einsetzen, wird Greg Corrado, Senior Director Research bei Google, zitiert: »Ich habe nicht das Gefühl, dass die KI schon so weit ist.« Er fügte jedoch hinzu, dass die Technologie »die nützlichen Anwendungsbereiche für das Gesundheitswesen um ein Vielfaches erweitert«.

Auf dem Business-Netzwerk LinkedIn schreibt Digital- und KI-Experte Jan Beger von GE Healthcare zum im März veröffentlichten Google-LLM-Paper: »Trotz ihrer beeindruckenden Leistung weist die Studie darauf hin, dass eine Skalierung allein nicht ausreicht. Die Modelle generieren immer noch Antworten, die für den sicherheitskritischen medizinischen Bereich unangemessen sind.«

Medizineinsatz für die KI

Die aktuellen Klinik-Tests von MedPalm 2 betreffen vor allem die Kommunikation mit Patienten und sollen die Klinik-Workflows u.a. in der Dokumentation verbessern. Im März hatte Google jedoch außerdem bekannt gegeben, dass es mit seiner KI auch in die Ultraschalldiagnose und die Krebstherapie einsteigen möchte, ein Bereich den bisher noch dezidierte Medizinunternehmen besetzen. (uh)