Automatisierung soll in vielen Bereichen Aufwand und Kosten reduzieren. Aber was geschieht mit dem menschlichen Wohlergehen, wenn diese Logik für Entscheidungen im Wohlfahrtssektor eingesetzt wird? Das Projekt AUTO-WELF untersucht den steigenden Einsatz automatisierter Entscheidungsfindung im Wohlfahrtssektor in Europa.
In vielen europäischen Ländern ist der Wohlfahrtssektor mit wachsendem Bedarf und schrumpfenden Ressourcen konfrontiert. Um sozialstaatliche Leistungen effektiv zu verteilen und die Effizienz der öffentlichen Verwaltung zu erhöhen hofft man daher, dass Wohlfahrt durch datenbasierte Entscheidungsunterstützung und künstliche Intelligenz (KI) radikal verändert werden kann.
AUTO-WELF ist das erste Projekt, das den steigenden Einsatz automatisierter Entscheidungsfindung in verschiedenen europäischen Sozialsystemen untersucht und analysiert. Im Zentrum stehen die Auswirkungen von Algorithmen und KI auf die Zukunft der europäischen Bürger*Innen und die Gesellschaft. Das Projekt soll wesentliche Erkenntnisse darüber liefern, wie automatisierte Entscheidungsfindung das menschliche Wohlergehen unterstützen, aber auch beeinträchtigen kann.
Dem zugrunde liegt die Erkenntnis, dass datenbasierte Infrastrukturen für die öffentliche Verwaltung große Auswirkungen auf die Lebensumstände von Bürger*innen und die menschliche Handlungsmacht haben: Diese Systeme wirken sich nicht nur auf die Wohlfahrt und die öffentliche Verwaltung aus, sondern auch auf die Art und Weise, wie der Staat mit Bürger*innen interagiert und wie sich das Verhältnis zwischen Bürger*innen und Staat verändert. Das wirft ethische und politische Fragen in Bezug auf Transparenz und Rechenschaftspflicht sowie auf systemischen Bias und soziale Ungleichheiten auf.
AUTO-WELF stellt die Perspektive der Menschen in den Vordergrund, die in den Automatisierungsprozess eingebunden sind – die Systementwickler*innen, die Sachbearbeiter*innen, die mithilfe automatisierter Systeme über Sozialleistungen entscheiden, und die Menschen, mit deren Daten die Systeme gefüttert werden.
Das Projekt erarbeitet notwendiges Wissen über die Folgen der Automatisierung der Wohlfahrt in zwei Bereichen: erstens, in Kerndienstleistungen der Wohlfahrt, wie Arbeitsvermittlung, Gesundheitsfürsorge und Bereitstellung von Sozialleistungen, und zweitens, bei der Automatisierung von kommunaler Wohlfahrt im Rahmen von Smart-City- und Smart-Village-Initiativen, die automatisierte soziale Infrastrukturen für gemeinschaftliche Aktivitäten und die Stadtentwicklung bereitstellen. Wir untersuchen diese Bereiche in acht europäischen Ländern (Österreich, Dänemark, Estland, Deutschland, Italien, Polen, Portugal und Schweden), die verschiedene Modelle von Sozialstaaten und unterschiedliche Stufen von Automatisierung repräsentieren.
-> Europaweit werden in der Sozialverwaltung KI und automatisierte Entscheidungssysteme eingeführt. -> Entscheidungen über soziale Leistungen basieren oft auf algorithmischer Risikobewertung und Erstellung von Profilen von Bürger:innen. -> Automatisierung folgt technischen Logiken und vernachlässigt sozialpolitische Folgen. -> Damit staatliche Institutionen ihren Sorgfalts- und Rechenschaftspflichten nachkommen, braucht es Transparenz und institutionelle Strategien..
Allhutter, Doris (12.12.2024) Profiling in der öffentlichen Arbeitsverwaltung. Wie algorithmische Risikovorhersage intersektionale Ungleichheit erzeugt. Vortrag bei: Online Lecture series "KI und die Zukunft der Arbeit. Genderdynamiken im Wandel’ (TU Chemnitz), Chemnitz/GERMANY.
Allhutter, Doris (03.12.2024) ÖAW Gender & Diversity Lecture "Wie KI intersektionale Ungleichheit skaliert" (Presentation and Panel discussion). Vortrag bei: Lectures zu Gender & Diversity: KI und Geschlecht im öffentlichen Leben (ÖAW), Wien/AUSTRIA.
Mager, Astrid (03.12.2024) ÖAW Gender & Diversity Lecture "KI im öffentlichen Leben" (Presentation and Panel discussion). Vortrag bei: Lectures zu Gender & Diversity: KI und Geschlecht im öffentlichen Leben (ÖAW), Wien/AUSTRIA.
Allhutter, Doris; Cavalcanti de Alcântara, Rafaela; Mager, Astrid (25.09.2024) Communal Infrastructures of Welfare: public value, data extractivism and data justice. Vortrag bei: ECREA 2024 "Communication & social (dis)order" (University of Ljubljana, Faculty of Social Sciences), Ljubljana/SLOVENIA.
Mager, Astrid; Allhutter, Doris (06.09.2024) Data power in the public sector. How data are used to exercise power in public health insurance. Vortrag bei: Data Power 2024 (International Institute of Information Technology, Bangalore / University of Graz), online/INDIA.
Allhutter, Doris (15.08.2024) What role should / do researchers play in technological change?. Vortrag bei: International Workshop "Translating Critical Data and Algorithms Studies into Impact" (University of Copenhagen), Copenhagen/DENMARK.
Cavalcanti de Alcântara, Rafaela; Allhutter, Doris (18.07.2024) Expectations of ADM and Urban Data Management Imagined Futures. Vortrag bei: 4S/EASST Joint Conference "Making and Doing Transformations" (Vrije Universiteit Amsterdam), Amsterdam/NETHERLANDS.
Allhutter, Doris (18.06.2024) Automated and Dafafied Welfare Futures. Vortrag bei: D!ARC Lectures (University of Klagenfurt), Klagenfurt/AUSTRIA.
Allhutter, Doris (05.03.2024) KI und Datenanalytik in der Arbeitswelt: Profiling von Arbeitssuchenden und automatisiertes Diversity Recruiting. Vortrag bei: Arbeiterkammer Salzburg, Salzburg/AUSTRIA.
Allhutter, Doris (26.02.2024) Erfüllt AMAS die Ziele des AMS? Profiling von Arbeitssuchenden aus soziotechnischer Sicht und im Blick von Audits. Vortrag bei: Bildungskonferenz 2024 "Künstliche Intelligenz im Prüfkontext" (Rechnungshof), Universität Wien/AUSTRIA.
Mager, Astrid; Allhutter, Doris (02.02.2024) Infrastructures of welfare. Narratives and counter-narratives of data infrastructures in the context of public health insurance and open commons,. Vortrag bei: Big Data Discourses Conference, Leipzig/GERMANY <https://www.sozphil.uni-leipzig.de/en/institut-fuer-kommunikations-und-medienwissenschaft/professuren/chair-of-media-and-communication/big-data-discourses-communicating-deliberating-and-imagining-datafication>.
Allhutter, Doris (18.12.2023) Researching Infrastructures of Welfare: practice-oriented research methods in Auto-Welf. Vortrag bei: Workshop ‘Doing and/in Data’, Vienna (online)/AUSTRIA.
Cavalcanti de Alcantara, Rafaela (29.11.2023) “Cambia, todo cambia”: Cuerpo-territorio and buen vivir as lenses to reflect on data commons. Vortrag bei: STS Austria Conference 2023, Wien/AUSTRIA <http://www.sts-austria.org/wp-content/uploads/2023/11/STS-Austria-Conference-2023_Full-Program-and-Abstracts_final.pdf>.
Cavalcanti de Alcantara, Rafaela (28.11.2023) The Challenge of “Commoning” Smart City Infrastructures: thinking about data integration platforms. Vortrag bei: STS Austria Conference 2023, Wien/AUSTRIA <http://www.sts-austria.org/wp-content/uploads/2023/11/STS-Austria-Conference-2023_Full-Program-and-Abstracts_final.pdf>.
Mager, Astrid (28.11.2023) Automating Welfware: How to open up, re-imagine, and rebuild data infrastructures for the public good. Vortrag bei: STS Austria Conference 2023, ÖAW, Wien/AUSTRIA.
Allhutter, Doris (28.10.2023) Mind Scripting in Practical Terms. Vortrag bei: Auto-Welf Lunch Time Series, online/AUSTRIA.
Allhutter, Doris (25.10.2023) Infrastructures of Welfare: the datafication of Europe's systems of social protection. Vortrag bei: STS Talk series of the STS Department at the University of Vienna, Vienna/AUSTRIA.
Allhutter, D.; Alushi, A.; Berdys, M.; Hughes, E.; Männiste, M. et al. [..] (26.09.2023) AI in Welfare: public policies, public interest, and political mandate. Vortrag bei: International Workshop: AI Systems for the Public Interest, Berlin/GERMANY.
Allhutter, Doris (14.09.2023) Künstliche Intelligenz in Obersten Rechnungskontrollbehörden. Vortrag bei: Rechnungshof Österreich, Vienna/AUSTRIA.
Cavalcanti de Alcantara, Rafaela (19.06.2023) Smart cities and feminist perspectives on the urban space: Connecting the dots towards the right to the city. Vortrag bei: Data Justice Conference, Cardiff, Wales/UNITED KINGDOM <https://datajusticelab.org/data-justice-2023-conference-programme/>.
11/2022 - 10/2025
AUTO-WELF is funded by the Austrian Science Fund (FWF I 6075) under the CHANSE Programme (Collaboration of Humanities and Social Sciences in Europe) "Transformations: Social and cultural dynamics in the digital age".
