Damit Mensch-Maschine-Schnittstellen (MMS) Aufgaben von Künstlicher Intelligenz (KI) in Krankenhäuser effektiv unterstützen, müssen sie gezielt gestaltet und durch umfassende Voraussetzungen auf individueller, technischer und institutioneller Ebene flankiert werden. Dies betrifft besonders Kontrolle und Überwachung. 

Gestaltung der Mensch-Maschine-Schnittstellen

Eine MMS muss Transparenz und Nachvollziehbarkeit der KI-Entscheidungen gewährleisten. Nutzer benötigen intuitive, verständliche Oberflächen, die relevante Informationen filtern und erklären, warum eine KI eine bestimmte Entscheidung getroffen hat. Erklärbarkeit (Explainability), Usability und die Möglichkeit zum Eingreifen sind zentrale Designprinzipien. Ein „KI-Cockpit“ kann helfen, indem es den Status und die Entscheidungswege der KI sichtbar macht und Interventionsmöglichkeiten bietet. Die Schnittstelle sollte zudem flexibel auf verschiedene Nutzergruppen zugeschnitten sein, damit sowohl medizinisches Personal als auch IT-Fachkräfte effektiv interagieren können.

Individuelle Voraussetzungen

Auf individueller Ebene ist eine solide „KI-Kompetenz“ unerlässlich. Das umfasst technisches Grundverständnis, Wissen über die Funktionsweise und Grenzen von KI sowie die Fähigkeit, Risiken und Fehlentscheidungen zu erkennen. Mitarbeitende müssen kontinuierlich geschult werden, um mit der schnellen technologischen Entwicklung Schritt zu halten. Soft Skills wie kritisches Denken und Kommunikationsfähigkeit sind ebenso wichtig, um im Team verantwortungsvoll mit KI-Systemen zu arbeiten.

Technische Voraussetzungen

Technisch müssen MMS so konzipiert sein, dass sie eine lückenlose Überwachung und Kontrolle ermöglichen. Dazu zählen robuste Schnittstellen zur Datenvisualisierung, Protokollierung aller KI-Entscheidungen und klare Mechanismen für menschliche Eingriffe. Die Systeme müssen interoperabel sein, um sich nahtlos in bestehende Krankenhaus-IT einzufügen. Sicherheit, Datenschutz und Fehlerresistenz sind dabei essenziell.

Institutionelle Voraussetzungen und Vorbereitung der Verantwortlichen

Institutionell braucht es eine klare Digitalisierungsstrategie, die den Wandel zum „Smart Hospital“ steuert. Verantwortliche müssen Change-Management-Prozesse initiieren, multiprofessionelle Teams aufbauen und eine Kultur der Offenheit für digitale Innovation fördern. Netzwerke mit anderen Kliniken und externen Experten sind hilfreich, um Wissen zu teilen und Best Practices zu etablieren. Förderprogramme und gezielte Weiterbildung der Belegschaft sind zentrale Bausteine für eine nachhaltige Transformation.

Institutionell erfordert dies eindeutige und klare Verantwortlichkeiten: Es braucht festgelegte Rollen wie den Chief Digital Officer (CDO), der die digitale Transformation strategisch steuert, oder den KI-Beauftragten, der speziell für die Einführung, Überwachung und Weiterentwicklung von KI-Systemen verantwortlich ist. Zusätzlich sollten interdisziplinäre Gremien oder Komitees etabliert werden, in denen Vertreter aus IT, Medizin, Pflege, Datenschutz und Ethik gemeinsam Richtlinien und Standards für den KI-Einsatz entwickeln und regelmäßig überprüfen. Eine klare Aufgabenverteilung sorgt dafür, dass bei Problemen oder Fehlfunktionen schnelle und kompetente Entscheidungen getroffen werden können. Zudem ist es wichtig, dass die Verantwortlichkeiten transparent kommuniziert werden, damit alle Mitarbeitenden wissen, an wen sie sich bei Fragen oder Unsicherheiten wenden können. Nur so lässt sich eine nachhaltige und sichere Integration von KI-Systemen im Krankenhaus gewährleisten.
 

Fazit

Durch die Kombination aus durchdachter Schnittstellengestaltung, gezielter Qualifizierung und institutioneller Strategie können Krankenhäuser die Potenziale von KI sicher und verantwortungsvoll ausschöpfen. Verantwortliche müssen proaktiv handeln, um Kontrolle, Transparenz und Patientensicherheit dauerhaft zu gewährleisten.
 

Autor: Wolf-Dietrich Lorenz
Foto: Adobe Stock / cvetikmart