Die Nutzung von Künstlicher Intelligenz (KI) im Gesundheitswesen bringt erhebliche Datenschutzbedenken mit sich, da es sich um besonders schützenswerte, personenbezogene Gesundheitsdaten handelt. Die häufigsten Datenschutzrisiken bei KI-gestützter Diagnostik beziehen sich vor allem auf den Umgang mit sensiblen Gesundheitsdaten, die einen besonders hohen Schutzbedarf haben.

Diese Daten enthalten sensible Informationen zum körperlichen und geistigen Gesundheits-zustand der Patienten, die gemäß der DSGVO streng zu schützen sind. Eine zentrale Herausforderung besteht darin, dass KI-Systeme oft große Mengen solcher Daten verarbeiten und analysieren, wodurch das Risiko eines Missbrauchs oder Diebstahls medizinischer Daten steigt.

Zudem müssen bei KI-Anwendungen im Gesundheitsbereich technische und organisatorische Maßnahmen wie Verschlüsselung, Pseudonymisierung und regelmäßige Sicherheitsüberprüfungen konsequent umgesetzt werden, um den Schutz vor unbefugtem Zugriff und Datenverlust zu gewährleisten. Ein weiterer sensibler Punkt ist die Transparenz der Datenverarbeitung, da vielfach unklar bleibt, wie KI-Modelle Daten verarbeiten und welche Algorithmen Entscheidungen treffen. Das kann insbesondere zu Problemen führen, wenn KI automatisierte Diagnosen oder Behandlungsempfehlungen erzeugt, deren Fehlerhaftigkeit Patienten schaden könnte.

Die Verarbeitung von Gesundheitsdaten durch KI ist nur unter klar definierten rechtlichen Grundlagen zulässig, beispielsweise mit ausdrücklicher Einwilligung der Patient:innen oder gesetzlicher Erlaubnis im öffentlichen Interesse. Darüber hinaus sind regelmäßige Datenschutz-Folgenabschätzungen Pflicht, um Risiken frühzeitig zu identifizieren und geeignete Gegenmaßnahmen zu planen. Insgesamt erfordert der KI-Einsatz im Gesundheitswesen eine sorgfältige Datenschutz-Strategie, die rechtliche Vorgaben, technische Sicherheitsmaßnahmen und ethische Aspekte stringent miteinander verbindet, um das Vertrauen der Patienten zu sichern und rechtliche Sanktionen zu vermeiden.

Datenschutzrisiken bei KI-gestützter Diagnostik

Ein zentrales Risiko ist der Missbrauch oder Diebstahl medizinischer Daten durch unbefugte Zugriffe, was durch unzureichende technische und organisatorische Sicherheitsmaßnahmen begünstigt wird. KI-Systeme, die auf zentralisierten Datenbanken basieren, erhöhen die Anfälligkeit für Hackerangriffe, weshalb Verfahren wie Föderiertes Lernen und Differential Privacy zunehmend als Schutzmechanismen eingesetzt werden, um Daten dezentral und anonymisiert zu verarbeiten.

Ein weiteres wesentliches Risiko besteht in der mangelnden Transparenz und Nachvollziehbarkeit der KI-Entscheidungen, da Betroffene oft nicht nachvollziehen können, wie ihre Daten verarbeitet werden und auf welcher Grundlage diagnostische Empfehlungen entstehen. Datenschutzrechtlich kritisch ist auch die Verwendung der Daten für andere Zwecke als ursprünglich vorgesehen (Zweckentfremdung), was häufig ohne ausdrückliche Zustimmung der Patienten erfolgen kann. Zudem drohen Datenschutzverletzungen durch unbeabsichtigte Datenlecks oder Fehlkonfigurationen, die sensible Patienteninformationen öffentlich machen können.

Technische Angriffe wie Prompt-Injection können generative KI-Systeme dazu verleiten, private Daten preiszugeben. Schließlich kann die unzureichende Implementierung von Datenschutzprinzipien wie Privacy by Design und Datenminimierung nicht nur rechtliche Sanktionen zur Folge haben, sondern auch das Vertrauen der Patienten in die Diagnostik nachhaltig beeinträchtigen. Insgesamt erfordern KI-gestützte Diagnostiksysteme ein streng kontrolliertes Datenschutzmanagement, um Risiken zu minimieren und den Schutz der Patientendaten zu gewährleisten.

Autor: Wolf-Dietrich Lorenz

Symbolbild: phonlamaiphoto / AdobeStock