Sichtbar wird das zum Beispiel bei Bildgeneratoren: Bittet man um "eine Führungskraft", liefern viele Modelle überproportional Männer in Anzügen, weil Trainingsbilder das so zeigten. Bei Textmodellen zeigt sich Bias in Sprachmustern, Berufszuschreibungen oder dabei, wessen Perspektive als "neutral" gilt. Der Effekt ist selten böse Absicht, sondern eine statistische Folge unausgewogener Trainingsdaten.
Für Unternehmen wird das relevant, sobald KI in Bewerbungs-Screening, automatisierten Kundentexten oder generierten Produktbildern eingesetzt wird. Ein automatisch erstelltes Bild für eine Recruiting-Kampagne, das nur eine Zielgruppe abbildet, verfehlt die eigentliche Zielgruppe und kann als ausgrenzend wahrgenommen werden. Wer KI-generierte Inhalte ungeprüft veröffentlicht, übernimmt den Bias mit.
Ganz vermeiden lässt sich KI-Bias nicht, weil er in den Trainingsdaten selbst liegt – auch neuere, größere Modelle sind nicht automatisch neutraler. Was hilft: Ergebnisse gezielt hinterfragen, bei Bildern und Texten bewusst nach Vielfalt fragen, und bei sensiblen Anwendungen wie Personalauswahl niemals ausschließlich der KI vertrauen. Das deckt sich mit dem Gedanken hinter Barrierefreiheit: Ein Ergebnis, das nur für eine Norm-Zielgruppe funktioniert, ist kein gutes Ergebnis.
