Mehr Transparenz für künstliche Intelligenz

Forschung

Veröffentlicht 03.09.2021 08:30, Dagmar Finlayson

Ein internationales Forschungsteam mit Beteiligten der Technischen Universität Braunschweig hat ein standardisiertes Register für die Arbeit mit künstlicher Intelligenz (KI) in der Biomedizin vorgeschlagen, um die Reproduzierbarkeit der Ergebnisse zu verbessern und Vertrauen in die Benutzung von KI-Algorithmen in der biomedizinischen Forschung und zukünftig auch im Klinikalltag zu schaffen. Ihren Vorschlag haben die Wissenschaftlerinnen und Wissenschaftler in der Fachzeitschrift „Nature Methods“ präsentiert.

In den letzten Jahrzehnten konnten aufgrund neuer Technologien verschiedenste Systeme entwickelt werden, die z. B. in der Krebsforschung riesige Mengen von biomedizinischen Daten erzeugen können. Parallel dazu entwickelten sich völlig neue Möglichkeiten, diese Daten mit Methoden der künstlichen Intelligenz zu untersuchen und auszuwerten. Beispielsweise können KI-Algorithmen auf Intensivstationen anhand großer Datenmengen von mehreren Überwachungssystemen frühzeitig ein Kreislaufversagen vorhersagen, indem sie viele komplexe Informationen aus verschiedenen Quellen gleichzeitig verarbeiten, was die menschlichen Fähigkeiten weit übertrifft.

Dieses große Potential von KI-Systemen führt zu einer unüberschaubaren Anzahl von biomedizinischen KI-Anwendungen, die sich aber nicht immer an bewährte Verfahren halten oder über deren Funktionsweise, verwendete Algorithmen oder die Datenherkunft in wissenschaftlichen Publikationen nur unvollständige Angaben gemacht werden. Dadurch werden die Beurteilung und umfassende Vergleiche von KI-Modellen erschwert.

Die Entscheidungen der KIs sind nicht immer nachvollziehbar und es entstehen Ergebnisse, die nicht vollständig reproduzierbar sind. Diese Situation ist natürlich gerade in der klinischen Forschung unhaltbar, da hier das Vertrauen in KI-Modelle und transparente Forschungsberichte von entscheidender Bedeutung sind, um die Akzeptanz von KI-Algorithmen zu steigern und verbesserte KI-Methoden für die biomedizinische Grundlagenforschung zu entwickeln.

Ein internationales Forschungsteam mit Beteiligung der Abteilung Data Science in Biomedicine des Peter L. Reichertz Instituts für Medizinische Informatik (PLRI) hat zur Lösung dieses Problems das Register AIMe (“registry for artificial intelligence in biomedical research”) vorgeschlagen. Das von der Wissenschaftsgemeinschaft betriebene Register ermöglicht es, Autorinnen und Autoren neuer biomedizinischer KI-Methoden leicht zugängliche, durchsuchbare und zitierfähige Berichte zu erstellen. Diese Berichte können von der wissenschaftlichen Gemeinschaft untersucht und geprüft werden.

Das frei zugängliche Register ist unter https://aime-registry.org abrufbar und besteht aus einem anwenderfreundlichen Webdienst, der durch den AIMe-Standard führt. Damit können Nutzerinnen und Nutzer von biomedizinischer KI vollständige und standardisierte Berichte zu den verwendeten KI-Modellen erstellen, indem alle relevanten Informationen zu der KI-Anwendung abgefragt werden. Im Anschluss an die Eingabe wird eine eindeutige AIMe-Kennung erstellt, die dafür sorgt, dass der Eintrag langfristig auffindbar bleibt und in Publikationen angegeben werden kann. Dadurch können Autorinnen und Autoren in Artikeln für Fachzeitschriften auf die aufwendige Beschreibung aller Facetten der verwendeten KI verzichten und einfach auf den Eintrag im AIMe-Register verweisen.

Da das Register als eine von der Wissenschaftscommunity betriebene Webplattform konzipiert ist, kann jede Nutzerin und jeder Nutzer zu bestehenden Einträgen Fragen stellen, Kommentare abgeben und Verbesserungen vorschlagen. Dieses Feedback aus der wissenschaftlichen Gemeinschaft wird auch in der jährlichen Aktualisierung des AIMe-Standards aufgenommen und interessierte Forschende können dem AIMe-Lenkungsausschuss beitreten, um sich stärker in die weitere Standardisierung der biomedizinischen KI einzubringen.

„Im AIMe-Register können nicht nur neue KI-Methoden in zitierfähiger Form registriert werden. Sie können auch nach vorhandenen Methoden für ihr spezifisches Anwendungsgebiet suchen. Sie müssen also das Rad nicht jedes Mal neu erfinden und können sich sicher sein, dass die benutzte KI-Methode ordentlich evaluiert ist und sich an die AIMe-Standards hält. KI Entwickler wie auch KI Anwender werden immens vom AIMe-Register profitieren“, berichtet Professor Tim Kacprowski, Leiter der Abteilung Data Science in Biomedicine des PLRI und Mitglied des Braunschweiger Zentrums für Systembiologie (BRICS).

Bild: Comic zur Funktionsweise des AIMe-Standards. Bildnachweis: Nina Wenke

Quelle: Technische Universität Braunschweig


Lesen Sie mehr zum Thema "Special Künstliche Intelligenz"

Wie können sich mobile Roboter selbst lokalisieren und navigieren?
Special Künstliche Intelligenz
Forschungsprojekt Künstliche Intelligenz
4 Trends für die nahe Zukunft der Künstlichen Intelligenz
Special Künstliche Intelligenz
Gartner Studie:
Auflagen als Bremse für Hochrisiko-KI Systeme
Special Künstliche Intelligenz
Studie

Lesen Sie hier die neuesten Beiträge

Wearables – eine komplexe Technologie
IT-Management
Wearables