Künstliche Intelligenz ist Top-Thema.Vor allem im Gesundheitswesen und in der Medizin spielt KI eine besondere Rolle. Allerdings wirft der Einsatz von KI auch viele – oftmals ungeklärte – rechtliche Fragen auf. Neben datenschutzrechtlichen stellen sich vor allem regulatorische Fragen. Der Health-IT-Talk Berlin-Brandenburg und das Health & Law Netzwerk suchten im Juni 2023 profunde Antworten. Zusammen mit Prof. Dr. Dieter Kugelmann, Landesdatenschutzbeauftragter von Rheinland-Pfalz, Nicole Büttner, CEO, Merantix Momentum, und Philipp Müller-Peltzer, Partner, Schürmann Rosenthal Dreyer Rechtsanwälte. Die Expertenrunde moderierte Christian Teichter, Rechtsanwalt und Senior Associate, Schürmann Rosenthal Dreyer Rechtsanwälte.

von Wolf-Dietrich Lorenz

Künstliche Intelligenz spielt vor allem im Gesundheitswesen und in der Medizin KI eine besondere Rolle. Von KI-gestützten Assistenzsystemen im OP bis hin zur personalisierten Therapie kann KI auch bei der OP-Planung, der medikamentösen Versorgung sowie der medizinischen Bildgebung und Diagnostik eingesetzt werden. Menschen mit eingeschränkter Mobilität könnten in Zukunft von intelligenten Assistenzsystemen – zum Beispiel bei der Bewegungstherapie – unterstützt werden. Ebenso lässt sich die Arzneimittelentwicklung durch KI beschleunigen. KI hat das Potenzial, das Gesundheitswesen nachhaltig zu revolutionieren.

Allerdings wirft der Einsatz von KI auch viele – oftmals ungeklärte – rechtliche Fragen auf. Neben datenschutzrechtlichen – schließlich verarbeiten KI- Systeme hier üblicherweise eine große Masse an sensiblen Gesundheitsdaten – stellen sich vor allem regulatorische Fragen. Außerdem werden die neue KI-Verordnung auf EU-Ebene und Haftungsfragen in Zukunft eine wichtige Rolle spielen.

Im Health-IT-Talk Berlin-Brandenburg zusammen mit dem Health & Law Netzwerk stellte Prof. Dr. Kugelmann die These vor: „Heilung durch Datenschutz ist möglich.“ Dafür würden Datenqualität und Richtigkeit verlangt. Gegen die Fragilität der Ergebnisse von KI stehe der Datenschutz und die Forderung nach Nachvollziehbarkeit. Das Vertrauensproblem in den KI-Einsatz solle durch menschliche Entscheidungen und Aufsicht gelöst werden können. Entscheidungen im Bereich der Gesundheitsversorgung trifft der Mensch. KI darf nur unterstützend eingesetzt werden. Dies muss durch die Konfiguration des Systems sichergestellt sein. Und: Rechenschaftspflicht insbesondere über die involvierte Logik. Kugelmann: „Der sinnvolle Einsatz kann auch durch datenschutzrechtliche Regeln mitgesteuert werden.“

Nicole Büttner ist im Vorstand von Merantix und Geschäftsführerin von Merantix Momentum, einer Tochter von Merantix, die sie selbst gegründet hat. Ihr Ziel ist es, Unternehmen bei der Entwicklung von KI-Strategien zu unterstützen. „KI für Entscheidungen zu nutzen bedeutet, Motivationen und Perspektiven zu verstehen, natürliche Sprache einzusetzen, um auch komplexe Verhandlungen zu führen, betonte die Managerin. Sie ist dagegen, der Entwicklung von KI völlig freien Lauf zu lassen. Büttner meinte, beim Forschen nach neuen Anwendungsmöglichkeiten sei der ethische Gedanke wichtig. „Es braucht einen Ethikkodex für KI“, so Büttner, „auch weil KI das Potenzial besitzt, mit wenigen Ressourcen, also etwa in sehr kleinen Teams, eine hohe Skalierung zu erreichen.“

KI-gestützte Automatisierung besitzt eine erhebliche praktische Bedeutung im Medizinbereich. Effekte sind nicht mehr nur Kostensenkung, sondern ebenso neue Anwendungen. "KI-Systeme im Gesundheitswesen – High risk no fun?" Philipp Müller-Peltzer meinte, damit der Einsatz und die Entwicklung KI-getriebener Gesundheitsanwendungen zukünftig rechtssicher gelingen könne, blickte der Partner bei Schürmann Rosenthal Dreyer Rechtsanwälte auf das sich rasch ändernde regulatorische Umfeld. Augenmerk besitzt dabei der Artificial Intelligence Act und seine Wechselwirkung zu anderen Gesetzen. Der AIA soll übergreifend für alle Produkte gelten, die unter den Begriff des KI-Systems fallen und damit auch smarte Assistenzsysteme erfassen.

Sein Ratschlag: „Nutzen Sie bestehende Prozesse.“ Das bedeutet, Anforderungsmanagement zu strukturieren sowie  modularen Aufbau und Prozessorientierung anzustreben.

Potential der großen Sprachmodelle

In jüngster Zeit haben Foundation Models in Form großer Sprachmodelle wie ChatGPT öffentliche Aufmerksamkeit erzeugt. Die enorme Leistungsfähigkeit kombiniert mit der vielseitigen Anwendbarkeit zeigt das Potential und die Chancen, welche sich durch die neue Technologie bieten. Doch Foundation Models haben auch Risiken und Schwachstellen, welche bei der Entscheidung über den Einsatz bedacht werden müssen. Insbesondere trifft dies zu, wenn es um Aufgaben mit hohen Anforderungen an Zuverlässigkeit, Sicherheit, Datenschutz oder Transparenz geht. Verschiedene Arten von Foundation Models handhaben diese Anforderungen unterschiedlich, unterscheiden sich in ihren Fähigkeiten und bedeuten verschiedene regulatorische Herausforderungen.

Gastgeber Technologie-Rechtsanwaltskanzlei

Gastgeber für den Health-IT-Talk Berlin-Brandenburg war im Juni 2023 die Technologie-Rechtsanwaltskanzlei Schürmann Rosenthal Dreyer Rechtsanwälte. Digitale Geschäftsmodelle sind ist Kernkompetenz; IT-Recht, Datenschutzrecht, Gewerblicher Rechtsschutz, Urheber- und Medienrecht sowie Handel und Vertrieb sind Schwerpunkte. Die Kanzlei ist Initiator des  seit 2019 regelmäßig stattfindenden Health & Law Netzwerk. Dort tauschen sich Branchenkolleg:innen und Rechtsexpert:innen  zu den Themen Gesundheit & Recht aus.

www.srd-rechtsanwaelte.de

Prof. Dr. Kugelmann: Verwundbare KI – Kann Datenschutz heilen?

Nicole Büttner (CEO, Merantix Momentum): Vom Schrebergarten zum Landschaftsgarten

Moderator Christian Teichter, Rechtsanwalt und Senior Associate, Schürmann Rosenthal Dreyer Rechtsanwälte.

Health-IT-Talk Berlin-Brandenburg
Branchenprofis tauschen sich seit 2012 im monatlich stattfindenden Health-IT-Talk Berlin-Brandenburg verbands- und fachrichtungsübergreifend zur Digitalisierung der Gesundheitswirtschaft aus. Die vier Partner ( IT-Branchenverband SIBB e.V., KH-IT Bundesverband der Krankenhaus-IT-Leiterinnen/Leiter e.V., BVMI – Berufsverband Medizinischer Informatiker e.V., TMF – Technologie- und Methodenplattform für die vernetzte Medizinische Forschung e.V., BVMI, KH-IT, SIBB, TMF) beschäftigen sich mit aktuellen Branchenthemen in Fachvortrag und Diskussion.

Informationen (Termine, Vorträge, Videomitschnitte) www.health-it-talk.de  

von Wolf-Dietrich Lorenz
Foto: Adobe Stock / Colours-Pic