Dresdner Forscher entwickeln medizinischen KI-Agenten für den Einsatz vor Ort zur zuverlässigen klinischen Entscheidungsunterstützung

KI-Systeme könnten künftig Diagnosen und klinische Entscheidungen zuverlässig unter-stützen – vorausgesetzt, sensible Gesundheitsdaten werden geschützt und Ärzte können die Zuverlässigkeit der KI-generierten Ergebnisse individuell beurteilen. Forscher des Else Kröner Fresenius Center (EKFZ) für Digitale Gesundheit an der TU Dresden und dem Uni-versitätsklinikum Dresden haben ein medizinisches KI-System entwickelt, das vor Ort eingesetzt wird und beide Herausforderungen adressiert. Ihre Ergebnisse wurden in der Fachzeitschrift Nature Medicine veröffentlicht .

Große Sprachmodelle sind zunehmend in der Lage, komplexe medizinische Aufgaben zu bewältigen. Ihre Anwendung in der klinischen Praxis steht jedoch vor zwei grundlegenden Herausforderungen: Sensible Patientendaten müssen unter der Kontrolle der jeweiligen Einrichtung bleiben und dürfen nicht mit externen Diensten geteilt werden, und Ärzte müssen die Zuverlässigkeit KI-generierter Diagnosen beurteilen können. Ein Forschungsteam um Prof. Jakob N. Kather in Dresden entwickelte ein vollständig lokal betriebenes KI-Diagnosesystem und evaluierte es in einer Simulationsumgebung, in der zwei KI-Agenten interagieren: einer übernimmt die Rolle des Arztes, der andere die des Patienten. Mit diesem Setup untersuchten die Forscher, wie zuverlässig medizinische KI-Systeme diagnostische Entscheidungen treffen können. Das System basiert auf dem KI-Agenten MIRA, der im Juni 2026 vorgestellt wurde.

Hohe diagnostische Genauigkeit bei standardisierten Tests

Der KI-Agent wurde anhand standardisierter klinischer Fälle getestet, die verschiedene Erkrankungen wie Blinddarmentzündung, Gallenblasenentzündung, Lungenentzündung, Lungenembolie und Harnwegsinfektionen abdeckten. Die Fälle basierten auf anonymisierten elektronischen Patientendaten, darunter Diagnosen, Laborwerte, Medikamente und Befunde der körperlichen Untersuchung. Der KI-Agent konnte Nachfragen stellen und klinische Befunde sowie Laborergebnisse anfordern. Auf Grundlage dieser Informationen erstellte er eine Diagnose mit Begründung. Das beste lokal eingesetzte KI-Modell erreichte in einem Benchmark in ca. 90 % und im anderen in 84 % der Fälle die korrekte Diagnose. In 181 zufällig ausgewählten Fällen überprüften Ärzte zusätzlich die Diagnosen. Die automatisierte Bewertung und der ärztliche Konsens stimmten in über 90 % der Fälle überein.

Übereinstimmende Antworten sind der stärkste Indikator für eine korrekte Diagnose.

Eine der zentralen Fragen der Studie war, wie sich die Vertrauenswürdigkeit einer KI-generierten Entscheidung bestimmen lässt. Um dies zu klären, untersuchten die Forscher verschiedene Indikatoren für die diagnostische Korrektheit. Am aussagekräftigsten war, ob die KI bei wiederholter Bearbeitung desselben Falls zur selben Diagnose gelangte. Je stabiler die Diagnose über mehrere Durchläufe hinweg blieb, desto wahrscheinlicher war ihre Richtigkeit. Die internen Wahrscheinlichkeitswerte des Modells waren weniger hilfreich, um die Korrektheit einer Diagnose vorherzusagen. Dies zeigte sich auch in einem Stresstest: Als die Forscher zuverlässige Informationen aus dem System entfernten, sank die diagnostische Genauigkeit deutlich. Obwohl die KI-Diagnosen häufiger fehlerhaft wurden, spiegelten die wahrscheinlichkeitsbasierten Signale des Modells dies nicht wider.

Medizinische KI-Agenten zur Unterstützung der klinischen Praxis

Auf Grundlage ihrer Ergebnisse schlagen die Forscher ein mögliches Rahmenkonzept für die Zusammenarbeit zwischen Klinikern und KI vor. Anstatt einem KI-System entweder uneingeschränkt zu vertrauen oder jede Entscheidung verifizieren zu lassen, könnten Fälle mit stärkeren Zuverlässigkeitssignalen von unsichereren Fällen unterschieden werden. Unsichere Fälle würden stets zur Überprüfung an medizinische Fachkräfte weitergeleitet.

Prof. Jakob N. Kather , Hauptautor der Studie und Professor für Klinische Künstliche Intelligenz an der TU Dresden, erklärt: „Unser Ziel ist ein KI-System mit selektiver Autonomie. Diese Systeme sollen Ärzte bei ihren Entscheidungen unterstützen, aber niemals die Kontrolle vollständig übernehmen. Daher ist es unerlässlich, dass die von der KI generierten Ergebnisse für Ärzte verständlich sind und dass die Systeme klar kennzeichnen, wenn ihre Ergebnisse unsicher sind. Die Verantwortung für Diagnose und Behandlung bleibt stets beim Menschen.“

Lokaler Einsatz ermöglicht institutionelle Kontrolle

Ein zweiter Schwerpunkt der Studie liegt auf der technischen Kontrolle des KI-Systems. Die KI-Modelle und die gesamte Datenverarbeitung liefen vollständig innerhalb einer lokal betriebenen Infrastruktur. Dies ermöglicht medizinischen Einrichtungen eine bessere Kontrolle darüber, wo Daten verarbeitet werden und welche KI-Modelle zum Einsatz kommen. Die On-Premise-Infrastruktur bildet die technische Grundlage für die Verwaltung von Datenschutz, Modellversionen, Zugriffsrechten und Überwachungsprozessen innerhalb der jeweiligen Einrichtung. Kather sieht dies auch als Voraussetzung für die verantwortungsvolle Weiterentwicklung medizinischer KI in Europa: „Forderungen nach einer Verlangsamung der KI-Entwicklung gehen meiner Ansicht nach in die falsche Richtung. In der Medizin stehen wir noch ganz am Anfang: KI-Systeme wie unsere Agenten zeigen erst jetzt, was möglich ist, und Patienten haben bisher kaum davon profitiert. Wir müssen schneller vorankommen, nicht langsamer. Entscheidend ist, dass wir diese Systeme sicher und transparent entwickeln und die Datensouveränität wahren – beispielsweise durch ihren vollständigen Betrieb innerhalb des Krankenhauses. Damit dies funktioniert, muss Europa aber auch selbst eine Rolle bei der Entwicklung der Basistechnologie spielen, einschließlich der Sprachmodelle, anstatt lediglich auf anderswo entwickelten Technologien aufzubauen.“

Nächste Schritte hin zur klinischen Anwendung

Die Studie wirft zudem Fragen auf, die vor einem möglichen klinischen Einsatz geklärt werden müssen. Die Forscher fanden Hinweise auf Unterschiede in der diagnostischen Genauigkeit zwischen verschiedenen Patientengruppen. Es ist weiterhin unklar, warum insbesondere simulierte Fälle mit älteren Patienten schlechtere Ergebnisse zeigten; dies erfordert weitere Untersuchungen. Darüber hinaus basieren die Ergebnisse auf retrospektiven Simulationen mit vorhandenen klinischen Daten und nicht auf Tests im Rahmen der routinemäßigen Patientenversorgung.

„Unsere Ergebnisse zeigen, dass wir einen wichtigen Schritt hin zu zuverlässigeren medizinischen KI-Systemen gemacht haben. Als Nächstes wollen wir untersuchen, wie gut dieser Ansatz unter realistischen Bedingungen funktioniert, unter Einbeziehung von Klinikern und für ein breiteres Spektrum an Krankheiten und klinischen Daten“, sagt Li Zhang, Erstautorin der Publikation und Forscherin im Team von Prof. Kather.

Ein weiterer Schwerpunkt liegt auf der Effizienz. Da die Zuverlässigkeitsabschätzung derzeit für jeden Fall wiederholte Berechnungen erfordert, arbeitet das Team daran, den Rechenaufwand zu reduzieren, ohne die Ergebnisqualität zu beeinträchtigen. Neben den Dresdner Forschern haben auch Wissenschaftler des Nationalen Centrums für Tumorerkrankungen (NCT) Heidelberg am Universitätsklinikum Heidelberg zu der Studie beigetragen.

Li Zhang, Georg Wölflein, Dyke Ferber, Junhao Liang, Zunamys I. Carrero, Xuewei Wu, Julien Vibert, Jan Clusmann, Lino Möhrmann, Elena E. Möhrmann, Catharina Wichmann, Fabian Wolf, Tim Lenz, Jakob Nikolas Kather: On-Premise Medical AI Agents for Reliable Clinical Decision-Making , Nature Medicine, 2026.

Lesen Sie die vollständige Publikation

Quelle: Technische Universität Dresden - EKFZ

Symbolbild: infiniteFlow/AdobeStock

https://digitalhealth.tu-dresden.de/on ... linical-decision-support/