Beschreibung

"Dieser Artikel befasst sich mit der ethischen Gestaltung von Künstlicher Intelligenz (KI) im öffentlichen Sektor, wobei der Fokus auf den öffentlichen Arbeitsverwaltungen liegt. Während KI zunehmend zur effizienteren Gestaltung von Verwaltungsprozessen und zur Verbesserung der Dienstleistungserbringung eingesetzt wird, wirft ihre Anwendung in der Arbeitsvermittlung grundlegende Fragen hinsichtlich Fairness, Rechenschaftspflicht und demokratischer Legitimität auf. Das EU-Gesetz zur Künstlichen Intelligenz (EU AI Act) unterstreicht die Dringlichkeit der Bewältigung dieser Herausforderungen, indem es KI-Systeme, die die Arbeitsvermittlung betreffen, als risikoreich einstuft und damit strenge Schutzmaßnahmen vorschreibt, um Diskriminierung zu verhindern und Transparenz zu gewährleisten. Das zentrale Ziel dieser Studie ist es zu untersuchen, wie ethische und soziale Überlegungen systematisch in die Entwicklung und Umsetzung von KI im öffentlichen Sektor eingebunden werden können. Anhand der deutschen öffentlichen Arbeitsverwaltung als Fallstudie stellen wir den Ansatz „Embedded Ethics and Social Sciences” (EE) vor. Dieser Ansatz integriert ethische Überlegungen und den Bezug zur Praxis bereits in die Entwicklung des Modells. Qualitative Erkenntnisse aus Interviews mit Vermittlungsfachkräften verdeutlichen die soziotechnischen Herausforderungen der Umsetzung, insbesondere die Notwendigkeit, Effizienz mit dem Vertrauen der Bürger:innen in Einklang zu bringen. Auf der Grundlage dieser Erkenntnisse geben wir Empfehlungen für die Gestaltung von KI-Systemen, welche sich aus der Integration ethischer und sozialer Überlegungen in die Systementwicklung ergeben. In diesem Zusammenhang diskutieren wir Fragen der Datenethik und Bias, der Fairness und der Rolle erklärbarer KI (XAI). Unsere Analyse zeigt, dass der EE-Ansatz nicht nur die Einhaltung neuer regulatorischer Anforderungen unterstützt, sondern auch die menschliche Aufsicht, die Handlungsfähigkeit und gemeinsame Entscheidungsfindung stärken kann. So deuten die Ergebnisse darauf hin, dass ein ethisch fundiertes Design Fairness, Transparenz und Legitimität in verschiedenen Bereichen der öffentlichen Verwaltung erhöhen kann und somit zu einer verantwortungsvolleren und bürgernahen Umsetzung im digitalen Zeitalter beiträgt." (Autorenreferat, IAB-Doku)