Ein Algorithmus für Arbeitslosigkeit?

Soziotechnische Analyse des sogenannten „AMS-Algorithmus“


LINK: Wie fair ist der AMS-Algorithmus? – Die Kernergebnisse der Studie hier im ITA-Dossier nachlesen


Das neue Arbeitsmarkt-Chancen-Assistenzsystem (AMAS) soll ab 2021 im österreichischen Arbeitsmarktservice (AMS) auf Basis von Statistiken vergangener Jahre die zukünftigen Chancen von Arbeitssuchenden am Arbeitsmarkt berechnen. Die Arbeitssuchenden werden dabei anhand der Prognose ihrer „Integrationschance“ in drei Gruppen eingeteilt, denen unterschiedliche Ressourcen für Weiterbildung zugeteilt werden. Wie die vorliegende Studie allerdings zeigt, hat der AMS-Algorithmus weitreichende Konsequenzen für Arbeitssuchende, AMS-Mitarbeiter*innen sowie die Organisation AMS.

Der sogenannte „AMS-Algorithmus“ ist umstritten. Kritische Stimmen sprechen von einer algorithmischen Verfestigung von Diskriminierung am Arbeitsmarkt. Das Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften analysierte gemeinsam mit der TU Wien – für die Arbeiterkammer Oberösterreich – die technischen Funktionsweisen und gesellschaftlichen Auswirkungen.

Hintergrund: Johannes Kopf, Mitglied des AMS-Vorstandes, machte bei der Ankündigung dieser großflächigen Umstellung mit einem bemerkenswerten Statement auf sich aufmerksam: „Unser neues Assistenzsystem berücksichtigt diese Realität, kann aber logischerweise selbst nicht diskriminieren.“ (Quelle) Hier spiegelt sich der Mythos von Technologie als wertneutralem Werkzeug wider, obwohl die sozialwissenschaftliche Technikforschung bereits aufgezeigt hat, dass durch die Gestaltung und den Einsatz von Technologien immer bestimmte Werte, Normen und Interessen in der Gesellschaft verankert werden. Auch sind Big-Data-Analysen mit der Aura von Wahrheit, Objektivität und Genauigkeit umgeben, die sich empirisch nicht bewahrheitet, aber dennoch in öffentlichen Debatten immer wieder reproduziert wird. Diese beiden Fehlannahmen begleiteten auch die schrittweise Einführung des AMS-Algorithmus – die derzeit aufgrund eines Urteils der Datenschutzbehörde gestoppt ist.

Wie funktioniert der Algorithmus: Auf Basis von Statistiken vergangener Jahre werden die zukünftigen Chancen von Arbeitssuchenden am Arbeitsmarkt berechnet. Die Arbeitssuchenden werden dabei anhand der Prognose ihrer „Integrationschance“ in drei Gruppen eingeteilt, denen unterschiedliche Ressourcen für Weiterbildung zugeteilt werden. Das algorithmische System sucht dafür Zusammenhänge zwischen Merkmalen Arbeitssuchender und erfolgreicher Erwerbstätigkeit. Die Merkmale umfassen Alter, Staatengruppe, Geschlecht, Ausbildung, Betreuungspflichten und gesundheitliche Beeinträchtigung sowie vergangene Beschäftigung, Kontakte mit dem AMS und das Arbeitsmarktgeschehen am Wohnort. So will man vorwiegend in jene Jobsuchende investieren, bei denen die Fördermaßnahmen am wahrscheinlichsten zu einer Wiedereingliederung in den Arbeitsmarkt führen.

Forschungsfragen


  • Welche Zielsetzungen verfolgt AMAS auf organisationaler und operativer Ebene? Welche Leitprinzipien informieren die technische Ausgestaltung des Systems?
  • Wie wurde AMAS technisch umgesetzt? Welche Daten über vergangene Berufsverläufe werden herangezogen und aus welchen Bestandteilen besteht der AMS-Algorithmus?
  • Welche Formen von Bias, Diskriminierung und Fehlerquoten spielen dabei eine Rolle und wie wurden diese konkret berücksichtigt?
  • Welche Auswirkungen kann der Einsatz des Systems für die gängige AMS-Praxis und die Arbeitssuchenden haben?
  • Welche Empfehlungen hinsichtlich Bias und Diskriminierung, Transparenz und politischer Steuerungs-Prozesse und Governance-Institu­tionen leiten sich daraus ab?

Vorgangsweise


Das Projekt untersuchte soziotechnische Dimensionen des AMS-Algorithmus auf Basis aktueller Forschung, konkret aus den Critical Data Studies und dem Bereich Fairness, Accountability and Transparency in Sociotechnical Systems. Mittels der Analyse interner und öffentlich publizierter Dokumente des AMS wurden die konzeptionelle, technische und soziale Umsetzung dieses Systems untersucht. Darüber hinaus wurden Vergleichsstudien über ähnliche Systeme in anderen Ländern herangezogen. 

Zentrale Ergebnisse


Die statistisch berechnete Integrationschance (IC-Wert) sollte für das AMS lediglich eine Zusatzfunktion in der Betreuung von Arbeitssuchenden bereitstellen. Wie die vorliegende Studie allerdings zeigt, hat der AMS-Algorithmus weitreichende Konsequenzen für Arbeitssuchende, AMS-Mitarbeiter*innen sowie die Organisation AMS:

  1. Eine Steigerung der Effizienz des Beratungsprozesses geht nur mit einer vorwiegend routinemäßigen Übernahme der computergenerierten Einstufung einher. Dies entspricht dem generellen Trend hin zu einer Dienstleistungsrationalisie­rung, ist aber im Sinne der Serviceorientierung einer semi-staatlichen Institution, die ihrem öffentlichen Auftrag zur Erhöhung der Chancen von Arbeitssuchenden nachkommt, nicht zielführend.
  2. Die Erhöhung der „Schulungseffektivität” durch Konzentration der Fördermittel im mittleren Segment zielt nicht primär auf die Zielgenauigkeit und Qualität der Maßnahme für eine*n AMS-Kunden*in ab, sondern verbindet das Ziel des „effektiven” Mitteleinsatzes mit einer groben Einteilung in drei Kund*innengruppen.
  3. In der Entwicklung des Systems wurden kaum Verfahren eingesetzt, um Bias (Verzerrungen) im System zu vermeiden und auch in der An­wendung bietet das System keine Anhaltspunkte, um möglichen struk­turellen Ungleichbehandlungen vorzubeugen. Gleichstellungsaspekte spielen im Betreuungsprozess des AMS traditionell eine wichtige Rolle, denen eine objektivierte, numerische (und nicht hinsichtlich Bias optimierte) Einstufung der Integrationschancen zuwiderlaufen kann.

Empfehlungen


Bei der Entwicklung algorithmischer Systeme für (semi-)staatliche Einrichtungen wie das AMS sind Anti-Diskriminierungsmaßnahmen sowie System- und Datentransparenz gefordert, um eine nachvollziehbare Evaluierung aus technischer, grundrechtlicher, demokratischer und rechtsstaatlicher Sicht zu ermöglichen.

Darüber hinaus empfiehlt die Studie Einsichts- und Einspruchsrechte für Betroffene, öffentliche Konsultationen, sowie die Vermittlung neuer Kompetenzen für AMS-Berater*innen und Kund*innen, falls algorithmische Systeme im öffentlichen Sektor zum Einsatz kommen sollten.

 

Das Projekt wurde in interdisziplinärer Zusammenarbeit mit Florian Cech und Fabian Fischer (Centre for Informatics & Society, TU Wien) und Gabriel Grill (Doktorand an der School of Information, University of Michigan) durchgeführt.

Publikationen

Publikationen

  • ITA [Hrsg.],. (2021). How fair is the AMS Algorithm? ITA-Dossier No 52en (March 2021; Authors: Astrid Mager, Doris Allhutter). Wien. doi:10.1553/ita-doss-052en
  • ITA [Hrsg.],. (2021). Wie fair ist der AMS-Algorithmus? ITA-Dossier Nr. 52 (Jänner 2021; AutorInnen: Astrid Mager, Doris Allhutter). Wien. doi:10.1553/ita-doss-052
  • Allhutter, D., Mager, A., Cech, F., Fischer, F., & Grill, G. (2020). Der AMS Algorithmus - Eine Soziotechnische Analyse des Arbeitsmarktchancen-Assistenz-Systems (AMAS) (p. 120). Wien. doi:/10.1553/ITA-pb-2020-02
  • Allhutter, D., Cech, F., Fischer, F., Grill, G., & Mager, A. (2020). Algorithmic Profiling of Job Seekers in Austria: How Austerity Politics Are Made Effective. Frontiers In Big Data, Special Issue Critical Data and Algorithm Studies, 17. doi:10.3389/fdata.2020.00005
  • ITA [Hrsg.],. (2020). AMS Algorithm on trial. ITA-Dossier No 43en (February 2020; Authors: Doris Allhutter, Fabian Fischer, Astrid Mager). Wien. doi:10.1553/ita-doss-043en
  • ITA [Hrsg.],. (2019). AMS-Algorithmus am Prüfstand. ITA-Dossier Nr. 43 (Juli 2019; AutorInnen: Doris Allhutter, Fabian Fischer, Astrid Mager). Wien. doi:10.1553/ita-doss-043
  • 1

Konferenzbeiträge/Vorträge

Konferenzbeiträge/Vorträge

  • 16.10.2020 , online/Hallstadt
    Doris Allhutter,  Astrid Mager: 
    Algorithmic Welfare: BürgerInnen-Profiling im Wohlfahrtsstaat
    ‘Locating and Timing Matters: Significance and Agency of STS in Emerging Worlds
    Sonstiger Veranstaltungsbeitrag
  • 18.08.2020 , Prague
    Doris Allhutter,  Astrid Mager: 
    Algorithmic profiling of job seekers in Austria: how to make austerity politics effective
    ‘Locating and Timing Matters: Significance and Agency of STS in Emerging Worlds
    Sonstiger Veranstaltungsbeitrag
  • 04.11.2019 , Bratislava
    Doris Allhutter,  Astrid Mager: 
    Algorithmic profiling of job seekers in Austria: how to make austerity politics effective
    Fourth European Technology Assessment Conference
    Sonstiger Veranstaltungsbeitrag
  • 1

Laufzeit


08/2019 - 10/2020

Projektteam


Finanzierung


Partner


Links


Wie fair ist der AMS-Algorithmus?
ITA-Dossier fasst die Kernergebnisse der Studie auf 2 Seiten zusammen

Studie (ePub)
DER AMS-ALGORITHMUS Eine Soziotechnische Analyse des Arbeitsmarktchancen-Assistenz-Systems (AMAS)

Interview mit Astrid Mager und Doris Allhutter (ÖAW)
"Wie fair sind Algorithmen?"