Wie verlässlich sind Chatbots bei medizinischen Diagnosen?

Dass Chatbots basierend auf generativer künstlicher Intelligenz (KI) die Welt stark verändern werden, ist bereits jetzt erkennbar. Ob sie in der Medizin auch als Werkzeug zur Unterstützung bei der Diagnosestellung dienen können, wurde in einer aktuellen Studie untersucht.

Ein Forschungsteam des Beth Israel Deaconess Medical Center hat überprüft, inwiefern der Chatbot „Chat-GPT 4“ auch bei komplexen medizinischen Diagnosen die korrekten Antworten liefern kann. Die Ergebnisse sind in der Fachzeitschrift „JAMA“ veröffentlicht.

Chatbots zur Diagnosestellung?

Chatbots zählen bisher zu den bekanntesten Anwendungsbeispielen der generativen KI, wobei sie Sprachmuster und Informationen, auf die sie trainiert wurden, nutzen, um eigene Textantworten zu formulieren. Allerdings sind die Antworten bei manchen Fragestellungen fehleranfällig.

Der potenzielle Nutzen von Chatbots im klinischen Umfeld ist jedoch stark davon abhängig, ob verlässliche Antworten geliefert werden. Um die diagnostischen Fähigkeiten von Chat-GPT 4 zu bewerten, hat das Forschungsteam den Chatbot mit 70 sogenannten klinisch-pathologischen Fallkonferenzen konfrontiert.

Diese klinisch-pathologischen Fallkonferenzen dienen zu Ausbildungszwecken und umfassten eine Reihe komplexer und anspruchsvoller Fälle mit Informationen zu relevanten klinischen Symptomen, Labordaten, bildgebenden Untersuchungen und histopathologischen Befunden, erläutern die Forschenden.

Diagnosefähigkeiten durchaus überzeugend

Der Chatbot habe bei 27 Fällen (39 Prozent) exakt mit der richtigen Diagnose übereingestimmt und bei Erweiterung um die KI-Differenzialdiagnosen – eine Liste der möglichen Erkrankungen, die ebenfalls als Ursache in Betracht kommen – seien in 64 Prozent der Fälle die korrekten Diagnosen dabei gewesen.

„Jüngste Fortschritte im Bereich der künstlichen Intelligenz haben zu generativen KI-Modellen geführt, die in der Lage sind, detaillierte textbasierte Antworten zu geben, die in standardisierten medizinischen Untersuchungen sehr gut abschneiden“, so der Studienautor Adam Rodman.

Kein Ersatz für ärztliche Untersuchungen

„Chatbots können zwar nicht die Expertise und das Wissen eines ausgebildeten Mediziners ersetzen, aber generative KI ist eine vielversprechende potenzielle Ergänzung zur menschlichen Kognition bei der Diagnose“, ergänzt Erstautor Zahir Kanjee.

So könne die KI helfen, komplexe medizinische Daten zu verstehen und das diagnostische Denken erweitern oder verfeinern. Als alleinige Informationsquelle wäre der Chatbot bisher jedoch nicht geeignet, da weiterhin ein nicht zu unterschätzendes Risiko falscher Antworten besteht.

Vielversprechendes Potenzial in der Medizin

Allerdings machen auch Ärztinnen und Ärzte Fehler und ein Forschungsteam der University of California hatte in einer früheren Studie bereits nachgewiesen, dass im Vergleich die medizinische Beratung via ChatGTP oft besser ausfällt.

„Wir müssen die optimale Nutzung, die Vorteile und die Grenzen dieser Technologie noch weiter erforschen, und es müssen noch viele Fragen des Datenschutzes geklärt werden, aber dies sind spannende Erkenntnisse für die Zukunft der Diagnose und der Patientenversorgung“, fasst Kanjee zusammen. (fp)