Kurzbeschreibung

KI-Systeme helfen bei der effizienten Verteilung knapper öffentlicher Ressourcen und sind ein zentraler Treiber von Smart Cities. Dieselben Systeme können aber auch unintendierte gesellschaftliche Konsequenzen haben, indem sie soziale Ungleichheiten verstärken. Derartige Konsequenzen sollen im Rahmen von CAIUS identifiziert und analysiert werden. Hierfür entwickeln wir eine innovative Methodologie, die informatische und sozialwissenschaftliche Kompetenzen vereint. Mittels agentenbasierter Modelle (ABM) analysieren wir Auswirkungen von KI-basierten Entscheidungen auf gesellschaftliche Makro-Variablen sozialer Ungleichheit. Die Daten für unsere Modelle beziehen wir aus Open Government Data und eigens entwickelten Erhebungen. Ziel ist es, KI-Systeme unter Berücksichtigung von Fairness-Metriken zu trainieren, um den langfristigen sozialen Einfluss ihrer Entscheidungen zu simulieren und so Grundlagen für Impact-Aware AI im urbanen Kontext zu legen. Im Rahmen von CAIUS werden zwei Anwendungsfälle von unseren Praxispartnern in der Metropolregion Rhine-Neckar begleitet: dynamische Bepreisung von Parkplätzen und Verkehrskontrolle durch Internet-of-Things-Sensoren. Unsere Ergebnisse tragen dabei zur Erforschung von Interaktionen zwischen Menschen und KI bei und dienen gleichzeitig zur Ableitung allgemeiner Richtlinien zur ethischen Implementierung KI-basierter Entscheidungssysteme in städtischen Kontexten.