KI-Governance im Gesundheitswesen

Künstliche Intelligenz:

Veröffentlicht 21.05.2021 09:50, kiw

Besonders im Gesundheitswesen entstehen schnell neue Anwendungen der künstlichen Intelligenz (KI).Wie und warum CIOs von Gesundheitsdienstleistern eine KI-Governance einrichten müssen, um innovative KI-Innovationen mit vertrauenswürdigen, sicheren und transparenten Lösungen in Einklang zu bringen, skizziert das Marktforschungsunternehmen Gartner.

Die Branche ist voll von Technologieanbietern, Data Science-Unternehmen, Forschern und Innovatoren, die sich darauf konzentrieren, prädiktive und präskriptive Algorithmen für verbesserte Diagnose- und Behandlungsempfehlungen zu entwickeln.

Für 2021 prognostiziert Gartner, dass 75% der Gesundheitsorganisationen (HDOs) in eine KI-Fähigkeit investiert haben werden, die entweder die operative Leistung oder die klinischen Ergebnisse explizit verbessert. Je mehr Aktivitäten es gibt, KI im Gesundheitswesen einzusetzen, desto größer ist die Notwendigkeit für HDOs, eine KI-Governance einzurichten. Da neue KI-Techniken für die meisten HDOs jedoch größtenteils Neuland sind, fehlen gemeinsame Regeln, Prozesse und Richtlinien, denen eifrige Unternehmer bei der Entwicklung ihrer Piloten folgen müssen.

Die meisten HDOs haben keine Unternehmensstrategie entwickelt, wie KI eingeführt, investiert und verwaltet werden soll. Dies führt zu einem Mangel an Vertrauen in AI-gestützte Lösungen und schafft ein neues Problem, für das nur CIOs von Gesundheitsdienstleistern gerüstet sind. Es ist wichtig, dass CIOs eine führende Rolle spielen , um sicherzustellen, dass der Einsatz von KI in HDOs diszipliniert und rechenschaftspflichtig ist. Dazu zählen Maßnahmen, die CIOs von Gesundheitsdienstleistern ergreifen sollten, um sicherzustellen, dass jede Implementierung von KI sicher und geschützt ist und ihr Potenzial ausschöpft.

AI-Governance-Rat

Die KI-Governance muss nicht von einem bestehenden Führungsgremium getrennt sein. Wenn es bereits einen strategischen Führungsrat für ein Daten- und Analyseprogramm gibt, ist dies die offensichtlichste Lösung, da KI eine natürliche Erweiterung eines Analyseprogramms ist. Andere strategische Führungsgremien haben jedoch möglicherweise nicht den Zweck und die Einrichtung, die sie geeignet machen, die Verantwortung für die Steuerung der Investition, des Werts und des Einsatzes strategischer und risikoreicher KI-Fähigkeiten zu übernehmen. 

Ob durch einen bestehenden oder einen separaten Rat, eine erfolgreiche KI-Governance umfasst vier Säulen: 

1.) Rechtliche, behördliche und Compliance-Überprüfung , um zu entscheiden, was passiert und wer zur Rechenschaft gezogen wird, wenn eine KI-Ausgabe Schaden verursacht.

2.) Klinische und wissenschaftliche Überprüfung und Bewertung , um zu bestätigen, dass der AI-Algorithmus an einem gültigen Datensatz getestet wurde. 

3.) Ethische Bewertungs- und Verwendungsrichtlinien, um festzustellen, ob oder inwieweit Patienten über die Rolle der KI bei ihrer Diagnose und Behandlung informiert sind. 

4.) Organisatorische Bereitstellung und Änderungsmanagement für die Schulung des Personals in Bezug auf die erwarteten und die richtigen Maßnahmen bei der Verwendung von KI.

Definitionen und strategischer Wert der KI

Unternehmen müssen eine gemeinsame Definition von KI haben, um produktive Gespräche über ihren Wert und ihre Investition führen zu können. Dies bedeutet, Kliniker, Wissenschaftler, Technologen und Endbenutzer in das Gespräch einzubeziehen, um eine universelle Vereinbarung zwischen allen Beteiligten zu erzielen. CIOs sollten den AI Governance Council nutzen, um die Diskussion zu erleichtern und eine unternehmensweite Perspektive einzunehmen. Konsistenz und Gründlichkeit sollten auch in Bezug auf die Möglichkeit, Identifizierung und Auswahl von KI hergestellt werden.

Datenqualität als Herausforderung

Daten sind oft ein großes Hindernis für die reibungslose und erfolgreiche Implementierung und Verwendung von KI. Beim Versuch, einen sauberen, vollständigen und genauen Datensatz zu erstellen, werden HDOs durch eine schlechte Datenqualität herausgefordert. Mangel an benötigten Daten; unvollständige Daten; und Fragen der Dateneinwilligung, des Datenschutzes und der Sicherheit. Um dies zu beheben, überprüfen erfolgreiche CIOs die aktuellen Data Governance-Praktiken und Datenerfassungsmethoden, indem sie Leitlinien für die benötigten Datentypen bereitstellen und Tools und Services für die Datenerfassung aktualisieren.

Insgesamt muss die KI-Governance als formeller Satz von Richtlinien mit Autorität auf Unternehmensebene implementiert werden, so die Gartner-Analysten. "Dies sendet ein klares Signal an die Organisation, dass KI als strategisch angesehen wird und die Aufmerksamkeit und Akzeptanz von Führungskräften hat.

https://www.gartner.com/smarterwithgar ... governance-in-healthcare/

 

Foto: Adobe Stock / Alexander Limbach


Lesen Sie mehr zum Thema "Special Künstliche Intelligenz"

Skepsis statt Vertrauen in Künstliche Intelligenz
Special Künstliche Intelligenz
Umfrage
Das Curriculum im Medizinstudium muss angepasst werden
Special Künstliche Intelligenz
PD Dr. Dominik Pförringer, Facharzt für Orthopädie über Künstliche Intelligenz
Künstliche Intelligenz im Smart Hospital NRW
Special Künstliche Intelligenz
Interview mit Dr. Anke Diehl, CTO Universitätsmedizin Essen
KI ist momentan noch nicht ein so großes Thema
Special Künstliche Intelligenz
Ute Repschläger, Vorsitzende des Vorstandes, Bundesverband selbstständiger Physiotherapeuten
Wir werden in Zukunft eine ganze andere Patienten-Arzt-Maschinenkommunikation erleben
Special Künstliche Intelligenz
Prof. Matusiewicz über Künstliche Intelligenz
Der beste Medizinroboter ist nichts ohne den Menschen
Special Künstliche Intelligenz
Roboter

Lesen Sie hier die neuesten Beiträge