Das neue Arbeitsmarkt-Chancen-Assistenzsystem (AMAS) soll ab 2021 im österreichischen Arbeitsmarktservice (AMS) auf Basis von Statistiken vergangener Jahre die zukünftigen Chancen von Arbeitssuchenden am Arbeitsmarkt berechnen. Die Arbeitssuchenden werden dabei anhand der Prognose ihrer „Integrationschance“ in drei Gruppen eingeteilt, denen unterschiedliche Ressourcen für Weiterbildung zugeteilt werden. Wie die vorliegende Studie allerdings zeigt, hat der AMS-Algorithmus weitreichende Konsequenzen für Arbeitssuchende, AMS-Mitarbeiter*innen sowie die Organisation AMS.
Der sogenannte „AMS-Algorithmus“ ist umstritten. Kritische Stimmen sprechen von einer algorithmischen Verfestigung von Diskriminierung am Arbeitsmarkt. Das Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften analysierte gemeinsam mit der TU Wien – für die Arbeiterkammer Oberösterreich – die technischen Funktionsweisen und gesellschaftlichen Auswirkungen.
Hintergrund: Johannes Kopf, Mitglied des AMS-Vorstandes, machte bei der Ankündigung dieser großflächigen Umstellung mit einem bemerkenswerten Statement auf sich aufmerksam: „Unser neues Assistenzsystem berücksichtigt diese Realität, kann aber logischerweise selbst nicht diskriminieren.“ (Quelle) Hier spiegelt sich der Mythos von Technologie als wertneutralem Werkzeug wider, obwohl die sozialwissenschaftliche Technikforschung bereits aufgezeigt hat, dass durch die Gestaltung und den Einsatz von Technologien immer bestimmte Werte, Normen und Interessen in der Gesellschaft verankert werden. Auch sind Big-Data-Analysen mit der Aura von Wahrheit, Objektivität und Genauigkeit umgeben, die sich empirisch nicht bewahrheitet, aber dennoch in öffentlichen Debatten immer wieder reproduziert wird. Diese beiden Fehlannahmen begleiteten auch die schrittweise Einführung des AMS-Algorithmus – die derzeit aufgrund eines Urteils der Datenschutzbehörde gestoppt ist.
Wie funktioniert der Algorithmus: Auf Basis von Statistiken vergangener Jahre werden die zukünftigen Chancen von Arbeitssuchenden am Arbeitsmarkt berechnet. Die Arbeitssuchenden werden dabei anhand der Prognose ihrer „Integrationschance“ in drei Gruppen eingeteilt, denen unterschiedliche Ressourcen für Weiterbildung zugeteilt werden. Das algorithmische System sucht dafür Zusammenhänge zwischen Merkmalen Arbeitssuchender und erfolgreicher Erwerbstätigkeit. Die Merkmale umfassen Alter, Staatengruppe, Geschlecht, Ausbildung, Betreuungspflichten und gesundheitliche Beeinträchtigung sowie vergangene Beschäftigung, Kontakte mit dem AMS und das Arbeitsmarktgeschehen am Wohnort. So will man vorwiegend in jene Jobsuchende investieren, bei denen die Fördermaßnahmen am wahrscheinlichsten zu einer Wiedereingliederung in den Arbeitsmarkt führen.
Das Projekt untersuchte soziotechnische Dimensionen des AMS-Algorithmus auf Basis aktueller Forschung, konkret aus den Critical Data Studies und dem Bereich Fairness, Accountability and Transparency in Sociotechnical Systems. Mittels der Analyse interner und öffentlich publizierter Dokumente des AMS wurden die konzeptionelle, technische und soziale Umsetzung dieses Systems untersucht. Darüber hinaus wurden Vergleichsstudien über ähnliche Systeme in anderen Ländern herangezogen.
Die statistisch berechnete Integrationschance (IC-Wert) sollte für das AMS lediglich eine Zusatzfunktion in der Betreuung von Arbeitssuchenden bereitstellen. Wie die vorliegende Studie allerdings zeigt, hat der AMS-Algorithmus weitreichende Konsequenzen für Arbeitssuchende, AMS-Mitarbeiter*innen sowie die Organisation AMS:
Bei der Entwicklung algorithmischer Systeme für (semi-)staatliche Einrichtungen wie das AMS sind Anti-Diskriminierungsmaßnahmen sowie System- und Datentransparenz gefordert, um eine nachvollziehbare Evaluierung aus technischer, grundrechtlicher, demokratischer und rechtsstaatlicher Sicht zu ermöglichen.
Darüber hinaus empfiehlt die Studie Einsichts- und Einspruchsrechte für Betroffene, öffentliche Konsultationen, sowie die Vermittlung neuer Kompetenzen für AMS-Berater*innen und Kund*innen, falls algorithmische Systeme im öffentlichen Sektor zum Einsatz kommen sollten.
Das Projekt wurde in interdisziplinärer Zusammenarbeit mit Florian Cech und Fabian Fischer (Centre for Informatics & Society, TU Wien) und Gabriel Grill (Doktorand an der School of Information, University of Michigan) durchgeführt.
08/2019 - 10/2020
Wie fair ist der AMS-Algorithmus?
ITA-Dossier fasst die Kernergebnisse der Studie auf 2 Seiten zusammen
Studie (ePub)
DER AMS-ALGORITHMUS Eine Soziotechnische Analyse des Arbeitsmarktchancen-Assistenz-Systems (AMAS)
Interview mit Astrid Mager und Doris Allhutter (ÖAW)
"Wie fair sind Algorithmen?"