Künstliche Intelligenz verspricht mehr Effizienz im Krankenhaus, birgt aber eine wenig beachtete Gefahr: den schleichenden Verlust von Erfahrungs- und Kontextwissen beim Personal. Wenn Algorithmen Diagnostik, Triage, Dokumentation oder Risikoabschätzungen übernehmen, sinkt der Anreiz, das zugrunde liegende Fachwissen selbst aktiv anzuwenden und weiterzuentwickeln. Ärztinnen, Pflegende und Kodierkräfte treffen dann weniger origi-näre Entscheidungen, sondern prüfen nur noch Vorschläge, oft unter Zeitdruck und mit wachsendem Vertrauen in die „Black Box“.

Bild: Prof. Dr. Jin Gerlach, Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Daten- und Informationsmanagement 

Leicht kann eine KI-Wissensfalle entstehen: Zunächst speist menschliche Expertise die Systeme, später ersetzt die KI genau jene Routinen, in denen dieses Wissen bislang lebte und weitergegeben wurde. Neue Mitarbeitende lernen Abläufe direkt „mit KI“, ohne je die volle Breite impliziten Wissens wie klinische Intuition, Heuristiken, Fallstricke der Dokumentation selbst zu durchlaufen. Mit der Zeit verarmen die Teams kognitiv: Sie können Auffälligkeiten schlechter erkennen, Empfehlungen der KI seltener sinnvoll hinterfragen und haben weniger Reservoir, um mit seltenen oder atypischen Fällen umzugehen.

Paradoxerweise untergräbt der Wissensverlust auch die Qualität der KI selbst. Modelle werden mit Daten aus einer Praxis trainiert, die zunehmend durch KI-Entscheidungen geprägt ist – inklusive deren Fehler und Bias; kritische Korrekturen durch menschliche Profis nehmen ab. Langfristig droht ein Rückkopplungseffekt: weniger menschliches Können, schlechtere Trainingsdaten, anfälligere Modelle. Um diese Entwicklung zu vermeiden, müssen Krankenhäuser KI bewusst als Assistenz gestalten: Entscheidungsverantwortung klar bei Menschen belassen, systematisch klinische Urteilskraft trainieren, Wissen explizit dokumentieren und Lernschleifen etablieren, in denen Personal und KI sich gegenseitig korrigieren, statt einander schrittweise zu ersetzen.

Maschinelles Lernen und Wissensverlust

Die Studie „Fading Memories: The Role of Machine Learning in Organizational Knowledge Depreciation“ („Verblassende Erinnerungen: Die Rolle maschinellen Lernens für den Wissensverlust in Unternehmen“) (1), zeigt auf, wie Unternehmen in diesen Zyklus geraten können:

- KI übernimmt: Während KI-Systeme etwa die Qualitätsprüfung eines Herstellungsprozesses erledigen, nutzen Mitarbeitende das dafür relevante Fachwissen seltener, vergessen dieses oder verlassen ganz das Unternehmen.

- Wissensverlust tritt ein: So gerät bestehendes menschliches Wissen verloren, während neue Angestellte entsprechendes Wissen nicht neu erwerben, wenn KI die Aufgaben übernommen hat.

- KI-Modelle veralten: Alternde KI-Modelle müssen mit Hilfe neuer Trainingsdaten aktualisiert werden, Modellvariablen müssen auf Relevanz geprüft werden oder Fehlprognosen des Modells fachlich beurteilt werden. Eine solche Aktualisierung erfordert menschliche Expertise, die aber zunehmend fehlt. Damit können KI-Modelle durch Alterung zur Wissensfalle werden.

Kombination aus didaktischem, organisatorischem und technischem Design

Um KI-Wissensverlust im Krankenhaus zu vermeiden, müssen Kliniken KI bewusst als ärztliches Werkzeug und nicht als Ersatz für klinisches Denken gestalten. Entscheidend ist, dass Diagnosen, Indikationsstellungen und Therapieentscheidungen formal und kulturell in ärztlicher Verantwortung bleiben und KI Systeme als zweite Meinung oder Navigationshilfe verstanden werden. Ärztinnen und Ärzte sollten angehalten sein, zunächst ein eigenes Urteil zu bilden und den KI Vorschlag erst danach zu prüfen, zu bestätigen oder bewusst zu verwerfen; diese aktive Gegenprüfung hält klinische Heuristiken, Mustererkennung und Differenzialdiagnostik lebendig. Darüber hinaus braucht es Ausbildungsformate, in denen Assistenzärzte Fälle explizit ohne KI durcharbeiten und erst im zweiten Schritt die Systemempfehlungen reflektieren, etwa in Fallkonferenzen,

Organisatorisch können klare Richtlinien helfen, die das Überstimmen von KI rechtlich und ökonomisch absichern, sowie Dokumentationsfelder, in denen die ärztliche Begründung für oder gegen die Übernahme von KI Vorschlägen festgehalten wird. Ergänzend sollten Krankenhäuser Zeitbudgets und Karrierepfade so anlegen, dass klinische Expertise, Supervision und Teaching weiterhin honoriert werden; sonst droht, dass die Logik der Effizienzgewinne durch Automatisierung genau jene Reflexionsräume verdrängt, in denen ärztliches Erfahrungswissen entsteht und weitergegeben wird.

Um KI bedingten Wissensverlust zu vermeiden, braucht es eine Kombination aus didaktischem, organisatorischem und technischem Design – KI als Assistenz, nicht als Ersatz.

(1) Fading Memories: The Role of Machine Learning in Organizational Knowledge Depreciation, Prof. Dr. Jin Gerlach von der Universität Passau und Prof. Dr. Don Lange von der Arizona State University

Autor: Wolf-Dietrich Lorenz

Bild: Prof. Dr. Jin Gerlach, Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Daten- und Informationsmanagement