Neue Ethikkommission für KI & Co an der TUM

Ethik

Veröffentlicht 05.05.2024 07:00, Dagmar Finlayson

Etwa jeder sechste Antrag an die Ethikkommission der Technischen Universität München (TUM) dreht sich um Themen wie Mensch-Technik-Interaktion, künstliche Intelligenz, Datenschutz und Persönlichkeitsrechte – und nicht mehr ausschließlich um medizinische Fragestellungen. Tendenz steigend. Deshalb hat die TUM nun eine nicht-medizinische Fachgruppe geschaffen.

Inwieweit sind sich Nutzer der Existenz und Funktionsweise von KI-Algorithmen bei Instagram bewusst? Wie verändert sich das Schlafverhalten von Studierenden während des Semesters und besonders in Prüfungssituationen? Und wie viel Kaffee sollte eine Biathletin oder ein Biathlet trinken, um die eigene Leistung zu verbessern, nicht aber am Schießstand ins Zittern zu geraten? Diese aktuellen Beispiele von Anträgen an die Ethikkommission zeigen, dass längst nicht mehr nur rein medizinische Themen eine ethische Bewertung wissenschaftlicher Studien erfordern. Immer wenn Menschen Gegenstand der Forschung sind, ist ein Ethikvotum nötig.

Bislang hatte die medizinische Ethikkommission sich auch diese Themen angeschaut und beurteilt. Doch es werden von Jahr zu Jahr mehr. Etwa 150 der 850 Anträge im Jahr 2023 hatten mit medizinischen Fragstellungen nichts mehr zu tun. Deshalb ist jetzt eine neue nicht-medizinische Fachgruppe der Ethikkommission dafür zuständig. Sie bewertet technische und gesellschaftliche Rahmenbedingungen der Forschungsansätze und fordert Nachbesserungen ein, wenn nötig. Die bis zu zehn stimmberichtigten Mitglieder kommen aus ganz unterschiedlichen Schools der TUM, etwa aus den Bereichen Management, Sozial-, Natur- und Ingenieurwissenschaften.

Neue Anträge über Ethiktool: Entscheidung in der Regel nach wenigen Tagen

„Es geht uns vor allem darum zu prüfen, ob ein Versuch unter dem Gesichtspunkt der guten wissenschaftlichen Praxis sauber durchgeführt wird“, erläutert Prof. Klaus Bengler von der TUM School of Engineering and Design, der die neue Fachgruppe der Ethikkommission leitet. Ganz allgemein gesagt, stehen „die Methodik und mögliche Folgen des Projekts für Menschen, Tiere und Umwelt“ im Fokus. Dabei kann es um
- Projekte der Mensch-Technik-Interaktion wie das autonome Fahren,
- Datenschutz und Persönlichkeitsrechte,
- persönliche Daten, die in der Künstlichen Intelligenz dafür genutzt werden, um Algorithmen zu trainieren,
- Umfragen im sozialwissenschaftlichen Bereich, bei denen personenbezogene Daten erhoben werden, gehen.

Ethikkommission: „Die Tür zwischen den Ideen der Forschenden und der Gesellschaft öffnen.“

Bei ihren Prüfungen greift die Kommission nicht in die inhaltliche Gestaltung der Forschung ein: Übergeordnete Fragen zu „Dilemmasituationen“ im autonomen Fahren etwa sind Sache des Deutschen Ethikrats. „Die Ethikkommission der TUM beschäftigt sich mit konkreten Einzelprojekten“, erläutert Prof. Georg Schmidt vom TUM Klinikum rechts der Isar, der die vor mehr als 40 Jahren gegründete Ethikkommission für den medizinischen Bereich leitet. „Sie öffnet gewissermaßen nach genauer Prüfung eine Tür zwischen den Ideen der Forschenden und der Gesellschaft und kann die Teilnahme von Probanden möglich machen.“
Die Software eTIC unterstützt die Forschenden darin, ihre Anträge so einfach und unbürokratisch wie möglich zu stellen. „Eher Vier-Augen-Prinzip als weitere Bürokratie“, so beschreibt Bengler den Reviewprozess, den er als Unterstützung für Forschende versteht. Mittlerweile werden für die entsprechenden Forschungsaktivitäten und Publikationen Ethikvoten sehr nachdrücklich gefordert. „Letztlich ist im Tool lediglich ein Studienprotokoll mit Begleitschreiben hochzuladen und kein neues Schriftstück zu erstellen“, ergänzt Schmidt. Durchschnittlich dauere es 4,5 Tage, bis die Ethikkommission auf einen neuen Antrag reagiert. Nur bei mangelhaften Forschungsanträgen kann sich der Prozess bis zu 12 Monate hinziehen.

Fördergeber fordern Ethikvotum ein

Die erste Ethikkommission an der TUM wurde vor mehr als 40 Jahren als reine medizinische Fachgruppe gegründet. Wenn etwa die Wirkung eines Medikaments getestet werden soll und das ein Risiko für Patienten bedeutet, die an einer Studie teilnehmen, muss zunächst ein Ethikvotum eingeholt werden. Im Arzneimittel- und im Medizinproduktegesetz ist heute festgeschrieben, dass eine Studie mit Patienten evidenzbasiert erfolgen muss und das Risiko nachweislich geringgehalten wird. Ärzt:innen sind nach ihrer Berufsordnung zudem dazu verpflichtet, sich von der Ethikkommission beraten zu lassen, wenn sie mit oder am Menschen forschen wollen.

Während die gesamte medizinische Forschung inzwischen ohne Ethikvotum nicht mehr möglich ist, ist die nicht-medizinische Forschung weniger geregelt. Das Persönlichkeitsrecht, das Datenschutzrecht und das Bayerische Hochschulinnovationsgesetz geben zwar einen Rahmen vor, in dem sich Forschung bewegen sollte. Doch der Druck, ein Ethikvotum vor Forschungsbeginn einzuholen, entsteht vor allem von Seiten der Fördergeber, etwa der Deutschen Forschungsgemeinschaft (DFG) oder Bundesministerien und Forschungsjournalen, die ein Ethikvotum oft schon bei Einreichungen für ein Forschungsprojekt erwarten.

Die gute Nachricht für alle Forschenden: 80 bis 90 Prozent der Anträge kommen bereits im ersten Anlauf durch.

Weitere Informationen
Generelle Informationen über die Ethikkommission der TUM: https://www.tum.de/ueber-die-tum/organisation/ethikkommission
Link zum Beitrag auf tum.de: https://www.tum.de/aktuelles/alle-meld ... ilungen/details/neue-ethi...


Foto: © Astrid Eckert, Muenchen

Quelle: Technische Universität München


Lesen Sie mehr zum Thema "Künstliche Intelligenz"

Assistenzsystem für die Reparatur von Herzklappen
Künstliche Intelligenz
MINIMAKI

Lesen Sie hier die neuesten Beiträge

Diese Webseite verwendet Cookies.   Mehr Info.      oder