Ist ein KI-Werkzeug wie ChatGPT oder eine medizinisches Informationswerkzeug hilfreich oder schädlich? Die Antwort hier ist wie so oft im Leben: Es kommt darauf an. Oder: Wenn man das Werkzeug richtig anwendet, dann ist es unverzichtbar. Dass dies auch für KI-Werkzeuge gilt und dass diese gleichermaßen hilfreich für Experten (Ärzte) wie für Laien (Patienten) sein können, macht dieses Gespräch deutlich, das auf YouTube leider nur wenig Resonanz erfährt (359 Aufrufe, 7 Likes).

KI ist für mich als Patient hilfreich bei der Vorbereitung eines Arzttermins

Auf die pseudo-provokante Einstiegsfrage, ob Werkzeuge wie ChatGPT die der bessere Arzt sei, antwortet der Protagonist des Videos (Prof. Felix Nensa ist leitender Oberarzt am Institut für Diagnostische und Interventionelle Radiologie und Neuroradiologie an der Uni-Klinik in Essen) mit einem klaren „Nein„. Das ist auch nicht der Sinn von KI-Werkzeugen, sie sollen keine Menschen ersetzen, sondern deren Arbeit verbessern, möglichst auf eine höhere Qualitätsstufe anheben.

Felix Nensa ermuntert die Patienten ausdrücklich dazu, KI-Tools (wie ChatGPT und ähnliche Systeme) vor einem Arztbesuch zu nutzen, um Symptome zu recherchieren. Er erklärt, warum dies heute viel sinnvoller ist als das klassische Googeln (bekannt auch als „Dr. Google“):

Wenn ein medizinischer Laie Symptome googelt, fehlen ihm oft die richtigen Fachbegriffe, was früher oft zu schlechten Ergebnissen oder unzureichend ausgerichteten Laienforen führte. KI-Modelle können jedoch laienhafte Beschreibungen aufgreifen, in medizinische Terminologie übersetzen und so sehr effizient relevante Informationen aus Fachdatenbanken extrahieren. (kein wörtliches Zitat)

Wichtig ist das auch für die Gesprächsführung und das gilt für beide Seiten.

Durch diese Vorabinformation können Patienten auf Augenhöhe mit ihrem Arzt sprechen und werden im Gespräch souveräner. Zudem kann die KI dabei helfen, überhaupt erst den richtigen Facharzt (z.B. Kardiologe vs. Orthopäde) zu bestimmen.

Allerdings …

Man muss es psychisch aushalten können, dass die „KI-Expertin“ – ähnlich wie ungeliebten Beipackzettel – mögliche beängstigende Diagnosen einem auflistet. Auf jeden Fall ist eindringlich davon abzuraten, als Laie eigenmächtige Interventionen (wie eine Selbsttherapie oder Medikamenteneinnahme) aus den KI-Ergebnissen abzuleiten. Die KI-Ergebnisse müssen stets mit menschlichen Experten besprochen und validiert werden.

Da kann man richtigerweise ergänzen: gute KI-Systeme und gut geprompte KI-Systeme würden sich sowieso weigern, dass zu unterstützen. Allerdings kann man jedes KI-System dazu bringen, diese internen Schranken zu durchbrechen. Aber der Prof. hat natürlich recht und man kann es nicht oft genug sagen: KI-Systeme können keine Entscheidungen treffen und wir müssen alles tun, damit dies auch niemals möglich wird, dass Computer-Systeme Entscheidungen treffen können. Und falls es solche Systeme schon geben sollte, dann müssen sie schnellstmöglich rückabgewickelt werden.

Medizinische Bilderkennung mit KI – Mythen dominieren den Diskurs, die Realität sieht völlig anders aus

Felix Nensa lächelt verschmitzt, als er die Anekdote vom Nobelpreisträger erzählt, der alle Radiologen arbeitslos machen wollte. Er ist selbst  Professor für Radiologie mit Schwerpunkt KI am Institut für Künstliche Intelligenz in der Medizin und weiß daher genau, dass weltweit Radiologen händeringend gesucht werden und dass seine Studierenden hier gute und lukrative Berufsperspektiven haben. Nensa erklärt, dass Bilderkennung in der Radiologie eine Form der „schmalen KI“ (Narrow AI) ist: Sie werden eher als spezialisiertes Werkzeug zur Arbeitsentlastung bei repetitiven Aufgaben (wie dem Vermessen von Organen) genutzt, und sind keinesfalls eine Super-KI ist, die alles im einem Gus erledigen kann. Beispielsweise tun sich KI-Werkzeuge oft schwer mit dem Erkennen von Tumoren, da im Gegensatz zu gesunden Organen jeder Tumor völlig anders aussieht und die Trainingsdaten bei vielen seltenen Krebsarten oft fehlen.

Viele Revolution im Arzt-Patienten-Gespräch durch Large Language Models (LLMs)

Während die Bilderkennung eher eine Nische für den medizinischen Nerd bleiben wird, sieht Felix Nensa Large Language Models (wie ChatGPT) als revolutionäre Mehrzweck-Technologien („General Purpose Technology“). Ein zentrales Problem aktueller Arztbesuche sei, dass Ärzte fast ununterbrochen auf einen Bildschirm schauten und tippten, was die Zwischenmenschlichkeit störe und von beiden Seiten als störend empfunden werde. In Zukunft (und teils schon heute in den USA) sollen „Ambient Scribes“ (z.B. in Form eines intelligenten Lautsprechers im Raum) das Gespräch aufzeichnen und die Dokumentation komplett automatisieren, sodass sich Arzt und Patient wieder frei unterhalten könnten. Noch beeindruckender sei dieses Szenario: Die KI könnte dem Arzt in Echtzeit über eine AR-Brille oder Smartwatch Hilfestellungen geben, beispielsweise wenn der Arzt vergisst, nach der Schmerzskala von 1 bis 10 zu fragen. Weiter gedacht könnte die KI das Gespräch nachträglich für den Patienten in einfache Sprache übersetzen oder an die Medikamenteneinnahme erinnern.

Soweit der Prof, der hier meiner Meinung nach in seiner Euphorie deutlich über das Ziel hinausschießt. Mich stört es nicht, wenn der Arzt die Gesprächs- und Diagnoseschritte in seinen PC eintippt, während er oder sie mit mir spricht. Allzu viel Technik würde mich hier stören, auch wenn sie scheinbar unsichtbar ist. Deshalb würde ist dieses Zukunfts-Szenario eher als gruselige Anekdote einordnen wollen.

Fazit und Handlungsempfehlungen

Am Ende des Videos gibt Prof. Nensa einen klaren Rat an Patienten und medizinisches Personal: „nutzen, nutzen, nutzen, !!!“. Die rasante Entwicklung lässt sich nicht aus Büchern oder in der Uni lernen, sondern nur durch das eigenes Ausprobieren und Sammeln von Erfahrungen. Während Ärzte die KI-Ergebnisse aufgrund ihres Fachwissens leichter überprüfen können, müssen Laien vorsichtiger sein, wenn das Tool in eine falsche Richtung abdriftet.

Das kann ich zu 100 Prozent unterschreiben, die Zeit ist vorbei, sich abseits von Technik Gedanken darüber zu machen, wie schlimm sich die Welt entwickelt hat (Heidegger, sei hier als abschreckendes Beispiel genutzt). Seit Ende 2023 hat jeder und jede die Möglichkeit, KI praktisch und sogar kostenlos zu testen. Die Zeit der bezugslose Spekulation sollte vorbei sein, wir können die Chancen und Risiken der KI jeden Tag erfahren, nutzen, auch erleiden, aber wir sind nicht mehr darauf angewiesen, dass andere uns erklären, wie wir mit diesem Potential umzugehen haben.