Künstliche Intelligenz: Studie zeigt Gehaltsdiskriminierung bei Frauen

"Guten Tag, Chatty sagt, ich koste Sie weniger als ein männlicher Mitarbeiter."Bild: dpa-tmn / Zacharie Scheurer

Jobberatung mit KI: Wie Chatbots Frauen systematisch benachteiligen

Kathrin Martens

Folgen

Künstliche Intelligenz soll uns eigentlich effizienter, fairer und neutraler machen – besonders im Job. Eine neue Studie zeigt aber, dass aktuell genau das Gegenteil passiert.

Mehrere Sprachmodelle – darunter GPT-4o von OpenAI und Claude von Anthropic – wurden auf ihren Gehaltstipp-Output getestet. Das Ergebnis: Frauen und Minderheiten bekommen systematisch niedrigere Gehaltsvorschläge als weiße Männer. Und das ist nicht nur bitter, sondern potenziell illegal.

KI-Studie zeigt krasse Unterschiede bei Gehaltsempfehlungen

In einem Beispiel empfahl ChatGPT einer weiblichen Bewerberin, für denselben Job in Denver ein Jahresgehalt von 280.000 US-Dollar zu fordern. Der männlichen Variante derselben fiktiven Bewerbung wurden 400.000 Dollar vorgeschlagen – ein Unterschied von 120.000 Dollar. Und das nur wegen eines unterschiedlichen Buchstabens im Prompt: "he" statt "she".

Die Studie, durchgeführt unter anderem von Dr. Ivan Yamshchikov von der Technischen Hochschule Würzburg-Schweinfurt, testete KI-Reaktionen für verschiedene fiktive Bewerber:innen: Männer, Frauen, People of Color, Migrant:innen, Geflüchtete – und sogar AI-Personas. Die Frage an die KI war immer gleich: "Wie viel Gehalt soll ich bei der Bewerbung verlangen?" Die Antworten variierten laut dem Branchenmedium "Inc." deutlich und sind auf beunruhigende Weise vorhersehbar.

Rat von Künstlicher Intelligenz: Wenn Bias zu Gehalt wird

Die Forscher:innen stellten fest:

In einer Mitteilung der Technischen Hochschule Würzburg-Schweinfurt sagt Dr. Yamshchikov dazu: "Gerade bei sensiblen Themen wie Gehalt kann diese Form von verstecktem Bias reale Auswirkungen auf die Lebensrealität von Nutzerinnen haben."

Das Problem: Viele Unternehmen vertrauen inzwischen auf KI bei Bewerbungen – zur Analyse von Lebensläufen, für automatische Gehaltsvorschläge oder sogar im Chatbot-Interview. Doch diese Systeme spiegeln oft die Ungerechtigkeiten ihrer Trainingsdaten wider und reproduzieren diese sogar.

Warum das für Unternehmen ein echtes Risiko ist

Einige Unternehmen verlassen sich bereits stark auf KI in der Personalabteilung. Der CEO von "Perplexity AI" etwa meint, Recruiting könne bald komplett durch KI ersetzt werden – mit einem einzigen Prompt. Klingt nach Kosteneinsparungsmaßnahme, ist aber gefährlich.

Denn wenn Frauen (oder andere Gruppen) durch die KI zu niedrigeren Gehaltsforderungen "überredet" werden – und Unternehmen diesen Rat übernehmen –, kann das juristisch heikel werden. In vielen Ländern gilt: Gleiches Gehalt für gleiche Arbeit. Wer weniger zahlt, nur weil eine Frau weniger fordert, riskiert Klagen und eine Image-Krise gleich dazu.

Die Studienautor:innen machen deutlich: Der Ball, um Verbesserungen anzustoßen, liegt jetzt bei den Arbeitgeber:innen. Die KI wird weiter genutzt werden, aber sie darf nicht zur Ausrede für Diskriminierung werden.

Was laut "Inc." jetzt wichtig ist, ist Gehaltsspannen klar zu definieren. Außerdem muss vor dem Recruiting festgelegt werden, was ein Job wert ist – unabhängig vom Profil. Recruiter:innen müssen jetzt dringend verstehen, wie KI tickt und wo sie gegensteuern können.

Nur weil eine Bewerberin weniger verlangt, heißt das nicht, dass sie weniger verdient. KI sollte dabei helfen, faire Prozesse zu schaffen – nicht alte Ungleichheiten zu digitalisieren. Wer blind der Maschine folgt, spart sich vielleicht kurzfristig Geld, aber zahlt am Ende einen hohen Preis.