Wissen und Daten kombiniert nutzen: Hybride KI für mehr Sicherheit und Transparenz

KI

Veröffentlicht 07.12.2023 07:50, Dagmar Finlayson

Große KI-Modelle, die auf Basis riesiger Datenmengen und durch maschinelles Lernen Texte oder Bilder generieren, sorgen weiterhin für Aufsehen. Datenbasierte KI-Ansätze offenbaren jedoch auch Grenzen, etwa durch ihr ressourcenintensives Training oder fehlende Transparenz des KI-Systems. Eine vielversprechende Alternative für sensible Einsatzbereiche wie die Medizin eröffnet die sogenannte hybride KI: Sie kombiniert datengetriebene KI-Ansätze mit menschlichem Wissen und verspricht energieeffiziente, robuste und erklärbare KI-Systeme. Was hybride KI ist und welche Potenziale und Herausforderungen mit ihr verbunden sind, erläutert die Plattform Lernende Systeme in einer Kurzpublikation.

Seit einigen Jahren dominieren in der KI-Entwicklung datengetriebene Herangehensweisen. Stoßen diese an Grenzen, so kann eine Kombination mit wissensbasierten KI-Verfahren Lösungen bieten. Man spricht von hybrider KI. „Während Ansätze des maschinellen Lernens rein datengetrieben arbeiten, erlaubt es hybride KI, vorhandenes Wissen beim Lernen zu berücksichtigen. Vom Grundsatz entspricht dies Prozessen des menschlichen Lernens: Was man schon weiß, muss man nicht immer wieder neu lernen. Hybride KI führt zu mehr Datensparsamkeit und zu robusteren Modellen“, so Ute Schmid, Professorin für Angewandte Informatik der Otto-Friedrich-Universität Bamberg und Leiterin der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme.

Vorteile von daten- und wissensbasierten KI-Verfahren verbinden

Datengetriebene KI-Systeme können nicht nur spezifische, sondern durchaus unterschiedliche Aufgaben ausführen und sind dabei äußerst leistungsfähig. Jedoch weisen sie auch Schwächen auf: Verzerrungen in Datensätzen können beispielsweise reproduziert werden und zu diskriminierenden Entscheidungen führen. Wie die Ergebnisse zustande kommen, kann schlecht nachvollzogen werden. Viele Probleme lassen sich nicht durch immer größere Modelle, Datenmengen oder Rechenkapazitäten lösen. Hinzu kommt der hohe Ressourcenverbrauch von rein datengetriebenen KI-Ansätzen.

Beim klassischen wissensbasierten KI-Ansatz wird menschliches Wissen so systematisiert, dass Computer es verarbeiten können. Diese KI-Verfahren liefern erklärbare, nachvollziehbare Ergebnisse und sind am besten für gut definierbare Problemstellungen geeignet, die sich im Laufe der Zeit nicht wesentlich verändern. Wissensbasierte KI-Systeme sind jedoch nur schwer skalierbar und ihre Leistungsfähigkeit bei der Verarbeitung großer empirischer (Echtzeit-)Datenströme unzureichend. Solche fallen zum Beispiel an, wenn autonome Fahrzeuge oder KI-gestützte Roboter über Sensoren ihre Umgebung wahrnehmen und auf Basis dieser Informationen handeln und lernen.

Datensparsam, robust und erklärbar

Hybride KI-Systeme können Daten und Wissen auf verschiedene Weise kombinieren. Ein wissensbasiertes System kann in eine datengetriebene Komponente eingebettet sein – oder umgekehrt. Alternativ können sich wissens- und datenbasiertes System gegenseitig informieren: Die Ergebnisse des einen Systems liefern den Input für das jeweils andere. Im Idealfall behalten neuronale Netze ihre Trainierbarkeit und Effektivität, wissensbasierte Komponenten bringen Erklärbarkeit und die einfache Integration menschlichen Wissens ein. Hybride KI kommt bei der Diagnose von Tumoren zum Einsatz, zur Vorhersage von Kipppunkten in der Klimaforschung oder in der Robotik zur Rehabilitation von Schlaganfallpatienten. „Menschen sind lernfähig. Sie handeln zumeist aber auf der Basis von gelerntem Wissen und Reflexen. Entsprechend sollten wir bei der Entwicklung von Robotiksystemen ‚integrativ‘ vorgehen, indem wir hybride KI-Ansätze in regelbasierte Grundfunktionen und funktionsvorgebende Strukturen einbetten. Das spart Ressourcen ein und erhöht die Sicherheit der Systeme“, sagt Elsa Kirchner, Professorin für Systeme der Medizintechnik der Universität Duisburg-Essen und Leiterin der Arbeitsgruppe Lernfähige Robotiksysteme der Plattform Lernende Systeme.

Neben vielfältigen Vorteilen ist der Einsatz von hybrider KI auch mit Herausforderungen verbunden. So fehlen Leitlinien für die Umsetzung und Benchmarks in der Forschung und Entwicklung zu hybriden Systemen. Ihre Erstellung ist komplex und erfordert interdisziplinäre Zusammenarbeit von Forschenden und Domänenfachleuten.

Zum Format: KI Kompakt
KI Kompakt bietet einen knappen, fundierten und wissenschaftlich basierten Überblick über aktuelle Entwicklungen im Bereich Künstliche Intelligenz und zeigt Potenziale, Risiken sowie offene Fragen auf. Die Analysen entstehen mit Unterstützung von Expertinnen und Experten der Plattform Lernende Systeme und werden von der Geschäftsstelle herausgegeben. Die zweite Ausgabe der Reihe thematisiert „Hybride KI. Wissen und Daten kombiniert nutzen“. Sie steht zum kostenfreien Download zur Verfügung.

Über die Plattform Lernende Systeme
Die Plattform Lernende Systeme ist ein Netzwerk von Expertinnen und Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes Fachwissen und fördert als unabhängiger Makler den interdisziplinären Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen Positionen zu Chancen und Herausforderungen von KI und benennen Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen sie den Weg Deutschlands zu einem führenden Anbieter von vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom Bundesministerium für Bildung und Forschung (BMBF) auf Anregung von acatech – Deutsche Akademie der Technikwissenschaften gegründet und wird von einem Lenkungskreis gesteuert. Die Leitung der Plattform liegt bei Bundesministerin Bettina Stark-Watzinger (BMBF) und Jan Wörner (acatech).


Weitere Informationen:

https://www.plattform-lernende-systeme ... ds/Publikationen/KI_Kompa... Download des "KI Kompakt"

Grafik: KI-Paradigmen, -Typen und Lernverfahren im Überblick ©Plattform Lernende Systeme

Quelle: Lernende Systeme - Die Plattform für Künstliche Intelligenz


Lesen Sie mehr zum Thema "Künstliche Intelligenz"

Künstliche Intelligenz erkennt Muster im Verhalten
Künstliche Intelligenz
Forschung
Digitale Diagnostik bei Schuppenflechte
Künstliche Intelligenz
App

Lesen Sie hier die neuesten Beiträge

Diese Webseite verwendet Cookies.   Mehr Info.      oder