Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat am 24. Juli 2025 ein Whitepaper zu Bias in der künstlichen Intelligenz (KI) veröffentlicht. Der englische Begriff "Bias" beschreibt eine im Ergebnis ungleiche Behandlung etwa von Nutzenden oder Unternehmen. Diese kann verschiedene Ursachen haben. Das Whitepaper liefert grundlegende Informationen zu Bias in KI und gibt einen Überblick über mögliche Maßnahmen und Techniken, wie Bias in KI-Systemen erkannt und verringert werden kann. Für die Detektion können beispielsweise qualitative Datenanalysen oder statistische Verfahren, wie Varianzanalyse, verwendet werden. Für die Mitigation werden Präprozessierungs-, Inprozessierungs- oder Postprozessierungsmethoden verwendet.

Außerdem werden Wechselwirkungen zwischen Bias und Cybersicherheit aufgezeigt. Hierzu zählen beispielsweise das Ausnutzen von Bias für Poisoning Angriffe oder unerlaubtes Kopieren von Modellfunktionalität. Die aufgezeigten Wechselwirkungen dienen als Grundlage für weitere Diskussionen und die Erforschung der Auswirkungen von Bias auf die Cybersicherheit von und durch KI-Systeme.

Bias kann zu einem nicht erwarteten und erwünschten Verhalten von KI-Systemen führen. Dies geschieht durch Verzerrungen im Daten- oder Entscheidungsraum der KI-Modelle. Solche Verzerrungen können beispielsweise eine übermäßige Betonung von problematischen Mustern innerhalb der Datenmerkmale sein. Auch eine fehlende oder zu geringe Repräsentation von bestimmten Subpopulationen ist eine solche Verzerrung.

Ein angemessener Umgang mit Bias erfordert Kenntnisse über die Ursachen ihrer Entstehung, ihre Herkunft sowie von bestehenden Detektions- und Mitigationsmaßnahmen. Bias kann in allen Phasen des KI-Lebenszyklus auftreten und die Funktionalität, Cybersicherheit von KI-Systemen sowie die Gleichbehandlung von verschiedenen Nutzendengruppen durch KI-Systeme gefährden. Das Whitepaper richtet sich an Entwickelnde, Anbietende und Betreibende von KI-Systemen.


Quelle Text und Bild: BSI