Distributional Intersectional Fairness in AI-Supported Job Matching: Evidence on Amplification, Trade-Offs, and Residual Risk

Beschreibung

"Obwohl die Bedeutung von Intersektionalität in der Diskriminierungsforschung weithin anerkannt ist, beschränken sich die meisten Evaluationen algorithmischer Fairness weiterhin auf Gruppenvergleiche entlang einzelner Merkmale oder auf Vorhersagefehler auf Individualebene. Dieses Papier entwickelt einen verteilungsbasierten Ansatz zur Untersuchung intersektionaler Fairness, der analysiert, wie maschinelle Lernverfahren die Verteilung von Ergebnissen zwischen sich überschneidenden sozialen Gruppen verändern. Auf Grundlage umfangreicher administrativer Arbeitsmarktdaten der öffentlichen Arbeitsvermittlung untersuchen wir ein KI-gestütztes Berufsempfehlungssystem mit 141 Berufskategorien und mehr als drei Millionen Beobachtungen. Wir messen intersektionale Unterschiede mithilfe der Jensen-Shannon-Divergenz und vergleichen die beobachteten Verteilungen der Personengruppen über Berufe mit den vom Modell implizierten Allokationen. Wir zeigen, dass Modelle ohne Fairness-Beschränkungen bestehende Arbeitsmarktstrukturen nicht nur reproduzieren, sondern intersektionale Unterschiede zwischen Berufen systematisch verstärken. Fairness-orientierte Regularisierung reduziert die aggregierten Unterschiede, geht jedoch mit einem ausgeprägten Zielkonflikt zwischen Fairness und Vorhersagegüte einher und verlagert Verzerrungen zwischen Berufen, anstatt sie zu beseitigen. Counterfactual Averaging führt zu einer deutlichen Verringerung berufsspezifischer Unterschiede, während der Großteil der Vorhersagegüte erhalten bleibt. In diesem Anwendungskontext kann dadurch, im Vergleich zu einer direkten Beschränkung der Modellergebnisse, eine günstigere Kombination von Fairness und Vorhersagegüte ermöglicht werden. Um lokal begrenzte Fairness-Risiken zu identifizieren, schlagen wir einen Prüfmechanismus auf Berufsebene vor, der Fälle mit ungewöhnlich starken Verschiebungen der Verteilungen kennzeichnet. Selbst unter starken Fairness-Beschränkungen weisen einzelne Berufe erhebliche verbleibende Verzerrungen auf. Dies deutet darauf hin, dass Fairness-Maßnahmen Ungleichheiten zwar verringern, aber nicht vollständig beseitigen. Unsere Ergebnisse zeigen, dass Fairness in groß angelegten Entscheidungsunterstützungssystemen auf der Ebene der Ergebnisverteilungen bewertet werden muss. Darüber hinaus verdeutlichen sie die Grenzen rein technischer Ansätze zur Reduzierung von Verzerrungen und die Notwendigkeit Fairness-orientierte Modellierung bei Einsatz in der Praxis mit Erklärbarkeit, dem kontinuierlichem Monitoring und menschlicher Kontrolle zu verbinden." (Autorenreferat, IAB-Doku)

Zitationshinweis

Mühlbauer, Sabrina, Paula Ziethmann & Enzo Weber (2026): Distributional Intersectional Fairness in AI-Supported Job Matching: Evidence on Amplification, Trade-Offs, and Residual Risk. (IAB-Discussion Paper 06/2026), Nürnberg, 47 S. DOI:10.48720/IAB.DP.2606