Gesundheitsdaten für KI-Diagnosen durch innovative Anonymisierungstechnologien sicher nutzen.

ANONY-MED 2 arbeitet daran, Gesundheitsdaten sicher für KI-basierte Diagnosen nutzbar zu machen. Das vom Bundesministerium für Forschung, Technologie und Raumfahrt BMFTR geförderte Projekt setzt zwei zentrale Ansätze um: Zum einen die Anonymisierung von Datensätzen durch datenschutzfreundliche Datensynthese, zum anderen die Anonymisierung von KI-Modellparametern durch datenschutzfreundliches Modelltraining.

Bild: © Fraunhofer AISEC / magnific.com

Ziel ist die Entwicklung eines offenen Werkzeugkastens und eines Praxishandbuchs, um Krankenhäusern den Einstieg in moderne Anonymisierungstechnologien zu erleichtern. Am konkreten Fall der Schlaganfalltherapie werden unter Einsatz moderner Sicherheitskonzepte und -architekturen Demonstratoren realisiert. Unter der Konsortialführerschaft des Fraunhofer-Instituts für Angewandte und Integrierte Sicherheit AISEC sind als Partner die Charité – Universitätsmedizin Berlin und das Software-Unternehmen Smart Reporting GmbH mit an Bord.

KI-basierte Diagnosen auf Basis von Gesundheitsdaten sollen zukünftig personalisierte Therapien für Patientinnen und Patienten verbessern. Doch dafür müssen die sensiblen Daten geschützt sein (insbesondere DSGVO-konform). ANONY-MED 2 adressiert diese Herausforderung: Das Forschungsprojekt entwickelt Lösungen, um Rohdaten durch sichere Synthese zu anonymisieren und um auch KI-Modelle datenschutzkonform so abzusichern, dass die Nutzbarkeit nicht eingeschränkt wird. Es wird gezeigt, dass Datennutzen und Datenschutz durch innovative Technologie gemeinsam gewährleistet werden können.  

Das soll durch zwei komplementäre Ansätze gelingen:

1.    Erzeugung synthetischer Daten: Anonymisierung von Rohdaten durch datenschutzfreundliche Datensynthese – echte klinische Muster bleiben erhalten, aber die Originaldaten werden nicht preisgegeben.
2.   Anonymisierung von Downstream-KI-Modellparametern, den internen, veränderbaren Variablen eines KI-Modells – Modelle sind geschützt, während Ergebnisse dennoch nutzbar bleiben. 

Wie ANONY-MED 2 arbeitet 

Im Projekt verbinden sich Sicherheitsarchitekturen wie Confidential Computing (Computing in geschütztem Umfeld), Trusted Execution Environments TEEs (Sicherheitsbereich in Prozessoren) und Homomorphic Encryption (HE) (Berechnungen auf verschlüsselten Daten) mit Privacy-Preserving Machine-Learning-Technologien wie Differential Privacy (Zufallsrauschen zum Schutz einzelner Daten) und Federated Learning (dezentrales Lernen ohne zentrale Datenbank).

Diese Technologien werden in Demonstratoren für die Schlaganfalltherapie umgesetzt: von der Erzeugung synthetischer Daten über das Training anonymisierter KI-Modelle zur Entscheidungsunterstützung bis hin zu einem KI-basierten Reporting-Tool. Weiterentwickelte Metriken und Bewertungsframeworks sorgen dafür, dass verbleibende Datenschutzrisiken und die medizinische Nutzbarkeit nachvollziehbar und quantifizierbar werden. Ein weiteres Arbeitspaket untersucht, inwieweit die entwickelten Verfahren eine datenschutzrechtlich belastbare Weitergabe von Daten und Modellen ermöglichen.

Offener Werkzeugkasten und Praxishandbuch 

Die Bausteine des Projekts sollen – wo immer möglich als offen verfügbare Software – in einem modularen Werkzeugkasten gebündelt werden. Dieser umfasst unter anderem Softwaremodule für die Erzeugung synthetischer Bild- und Routinedaten, Referenzarchitekturen für geschütztes KI-Training, Evaluationswerkzeuge für Datenschutzrisiken und Nutzbarkeit sowie praxisnahe Beispiel-Workflows für klinische Anwendungen. Krankenhäusern und Gesundheitseinrichtungen wird damit der transparente Einsatz modernster Anonymisierungstechnologien in realen Szenarien erleichtert. Langfristig sollen die ANONY-MED 2 Ansätze auf viele weitere medizinische Fachgebiete wie Krebserkennung oder die Behandlung von seltenen Krankheiten übertragbar sein. 

»ANONY-MED 2 strebt einen robusten, skalierbaren Weg an, medizinische Daten datenschutzkonform in KI-gestützte Medizin zu überführen – nicht nur in Deutschland, sondern europaweit. Damit sollen Datenschutzauflagen eingehalten, Innovationspotenziale genutzt und die Versorgungsqualität durch bessere KI-gestützte Entscheidungen erhöht werden«, sagt Prof. Dr. Gerhard Wunder, Leiter der Abteilung Cognitive Security Technologies am Fraunhofer AISEC.

Fördergeber ist das Bundesministerium für Forschung, Technologie und Raumfahrt BMFTR © BMFTR

ANONY-MED 2 ist in das Forschungsrahmenprogramm der Bundesregierung zur IT-Sicherheit »Digital. Sicher. Souverän.« des Bundesministeriums für Forschung, Technologie und Raumfahrt (BMFTR) im Rahmen des Forschungsnetzwerks Anonymisierung eingebettet und baut auf den Arbeiten des Vorgängerprojekts ANONY-MED auf.

Die Partner

Das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC ist eine der international führenden Einrichtungen für angewandte Forschung im Bereich Cybersicherheit und verfügt über langjährige Erfahrung an der Schnittstelle von IT-Sicherheit, Kryptografie und Machine Learning.

Die Charité – Universitätsmedizin Berlin bringt als eine der größten Universitätskliniken Europas umfassende klinische Expertise und eine starke Forschungsinfrastruktur im Bereich KI in der Medizin ein. Das Charité Lab for AI in Medicine ist eines der führenden Forschungslabore insbesondere in der Entwicklung von KI-Modellen und generativer Datensynthese für neurovaskuläre Indikationen.

Die Smart Reporting GmbH ist ein international tätiger Anbieter von Software für strukturierte, vollständig maschinenlesbare medizinische Befunde. Das Unternehmen verbindet etablierte Befundungs-Workflows mit generativer KI, die Radiologinnen und Radiologen kontextbezogen bei der Befundung unterstützt und sich in bestehende klinische Systeme einfügt. Ein großes Nutzer- und Partnernetzwerk im Bereich Radiologie und Medizintechnik bildet die Basis, um solche Verfahren in die klinische Praxis zu übertragen.

ANONY-MED

Das Vorgängerprojekt ANONY-MED entwickelte einen Werkzeugkasten, der es ermöglicht, medizinische Daten zu anonymisieren. Der Werkzeugkasten nutzt zwei Methoden:

• Erstens werden originale Patientendaten durch spezielle KI-Modelle (sogenannte GANs und Diffusionsmodelle) ersetzt, sodass keine Rückschlüsse auf einzelne Patienten möglich sind.
• Zweitens werden die Ergebnisse und KI-Modelle selbst durch eine Verschlüsselungstechnik geschützt, die Berechnungen auf verschlüsselten Daten erlaubt (Homomorphic Encryption).

Das Projekt wurde an drei Beispielen getestet: Prostatakrebs, Herzkrankheiten und Schlaganfall-Bildgebung. ANONY-MED 2 fokussiert sich nun vor allem auf die Schlaganfalltherapie.

Fraunhofer AISEC 

Das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC ist eine der international führenden Einrichtungen für angewandte Forschung im Bereich Cybersicherheit. Etwa 260 hochqualifizierte Mitarbeiterinnen und Mitarbeiter arbeiten an maßgeschneiderten Sicherheitskonzepten und Lösungen für Wirtschaftsunternehmen und den öffentlichen Sektor, mit dem Ziel, die Wettbewerbsfähigkeit von Kunden und Partnern zu verbessern. Dazu zählen Lösungen für eine höhere Datensicherheit sowie für einen wirksamen Schutz vor Cyberkriminalität wie Wirtschaftsspionage und Sabotageangriffe. Das Kompetenzspektrum erstreckt sich von Embedded und Hardware Security, über Automotive und Mobile Security bis hin zu Sicherheitslösungen für Industrie und Automation. Zudem bietet das Fraunhofer AISEC in seinen modernen Testlabors die Möglichkeit zur Evaluation der Sicherheit von vernetzten und eingebetteten Systemen, von Hard- und Software-Produkten sowie von Web-basierten Diensten und Cloud-Angeboten.

Quelle: © Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC

Bild: © Fraunhofer AISEC / magnific.com