Europaweit werden in der Sozialverwaltung Künstliche Intelligenz (KI) und automatisierte Entscheidungssysteme eingeführt. Entscheidungen über soziale Leistungen basieren oft auf algorithmischer Risikobewertung und Erstellung von Profilen von Bürger:innen.

Die Automatisierung im Sozialbereich folgt aber technischen Logiken und vernachlässigt sozialpolitische Folgen, meint ITA-Forscherin Doris Allhutter in ihrem neuen ITA-Dossier "Automatisierung im Sozialstaat". Damit staatliche Institutionen ihren Sorgfalts- und Rechenschaftspflichten nachkommen, brauche es unbedingt Transparenz und institutionelle Strategien.

Welche Daten herangezogen werden, welche Annahmen Algorithmen über die soziale Situation von Bürger:innen treffen und wie automatisierte Entscheidungen getroffen werden, sind folgenreiche sozialpolitische Entscheidungen Es müsse daher klar kommuniziert werden, auf Basis welcher Daten Menschen von Behörden bewertet werden, anstatt einfach der neuesten Technik zu folgen. "Um die Demokratie zu stärken müssten staatliche Institutionen bei der Gestaltung und Umsetzung von Sozialpolitik transparent agieren", betont Allhutter.

Links

Das Dossier"Automatisierung im Sozialstaat" fasst Erkenntnisse und Empfehlungen aus dem Paper "Public value in the making of automated and datafied welfare futures", erschienen im Internet Policy Review, auf zwei Seiten zusammen. Link

ITA-Projekt Die Automatisierung von Wohlfahrt