Der AMS-Algorithmus – eine soziotechnische Analyse

Untersuchung des AMS-Algorithmus aus soziotechnischer Perspektive

Das österreichische Arbeitsmarktservice (AMS) führt mit 2020 einen Algorithmus ein, der bei der Vergabe von Fördermitteln behilflich sein soll. Der sogenannte „AMS-Algorithmus“ ist umstritten. ITA und TU Wien analysieren technische Spezifiken und gesellschaftliche Auswirkungen in Kooperation mit der Arbeiterkammer.

Der AMS-Algorithmus wird in Österreich Realität. Auf Basis von Statistiken vergangener Jahre werden die zukünftigen Chancen von Arbeitssuchenden am Arbeitsmarkt berechnet. Die Arbeitssuchenden werden dabei anhand von Prognosen in drei Gruppen geteilt, denen unterschiedliche Ressourcen für Weiterbildung zugeteilt werden. Das algorithmische System sucht dafür Zusammenhänge zwischen Merkmalen Arbeitssuchender und erfolgreicher Erwerbstätigkeit. Die Merkmale umfassen Alter, Staatsbürgerschaft, Geschlecht, Ausbildung, Betreuungspflichten und gesundheitliche Beeinträchtigung sowie vergangene Beschäftigung, Kontakte mit dem AMS und das Arbeitsmarktgeschehen am Wohnort. So will man vorwiegend in jene Jobsuchende investieren, bei denen die Fördermaßnahmen am wahrscheinlichsten zu einer Wiedereingliederung in den Arbeitsmarkt führen.

Der sogenannte „AMS-Algorithmus“ ist umstritten, kritische Stimmen sprechen von einer algorithmischen Verfestigung von Diskriminierung am Arbeitsmarkt. Johannes Kopf, Mitglied des AMS-Vorstandes, entgegnet mit einem bemerkenswerten Statement: „Unser neues Assistenzsystem berücksichtigt diese Realität, kann aber logischerweise selbst nicht diskriminieren.“ Hier spiegelt sich der Mythos von der Technologie als wertneutralem Werkzeug wider, obwohl die sozialwissenschaftliche Technikforschung bereits anhand unzähliger Studien aufgezeigt hat, dass durch die Gestaltung und den Einsatz von Technologien immer bestimmte Werte, Normen und Interessen in der Gesellschaft verankert werden. Auch sind Big-Data-Analysen mit der Aura von Wahrheit, Objektivität und Genauigkeit umgeben, die sich empirisch nicht bewahrheitet, aber dennoch in öffentlichen Debatten immer wieder reproduziert wird. Diese beiden Fehlannahmen könnten auch beim Einsatz des AMS-Algorithmus zum Tragen kommen.

Forschungsfragen

Diese Überlegungen stellen den Ausgangspunkt unserer Untersuchung des AMS-Algorithmus aus soziotechnischer Perspektive dar. Wir bearbeiten folgende Fragen:

  • Wie fließen Werte und gesellschaftliche Zielsetzungen (z.B. Gleichheitsprinzipien, Solidarität oder Effizienzsteigerung) in den AMS-Algorithmus ein?
  • Welche Daten über vergangene Berufsverläufe werden für den Algorithmus herangezogen und wie gestalten sie ihn?
  • Welche Formen von Bias, Diskriminierung und Fehlerquoten spielen dabei eine Rolle und wie werden diese konkret berücksichtigt? Werden vergangene Diskriminierungen durch Automatisierung objektiviert und damit möglicherweise verfestigt?
  • Wie soll der ‘Erfolg’ des Algorithmus festgestellt werden und wird der Algorithmus auf Basis der Ergebnisse der Testphase 2019 angepasst?
  • Welche Einsichts- und Einspruchs-Möglichkeiten haben Betroffene des Systems? Sind spezielle Schulungen für das AMS Personal vorgesehen? Welche Maßnahmen können getroffen werden, um Transparenz und Nachvollziehbarkeit der algorithmischen Klassifikation zu gewährleisten?

Vorgangsweise

Zunächst ziehen wir Vergleichsstudien und mögliche Evaluierungen aus anderen Ländern heran, die Erfahrungen mit Algorithmen in der Arbeitsmarktpolitik haben. Diese werden mit Forschungsergebnissen aus dem Bereich „Fairness in Machine Learning“ verknüpft, um grundlegende Wirkweisen, Herausforderungen und Auswirkungen zu untersuchen. Konkret fragen wir, wie vergangene Diskriminierungen fortgeschrieben oder verändert werden können. Anschließend ziehen wir mittels zur Verfügung stehender Dokumentationen von Datensätzen, Modellen, Materialien etc. Rückschlüsse auf soziotechnische Wirkweisen wie allfällige Verzerrungen oder Fehlerquoten. Ein zweiter Fokus ist die geplante Einbettung des Algorithmus in die AMS Praxis um herauszufinden, welchen Einblick und Handlungsspielraum unterschiedliche Personengruppen (AMS-MitarbeiterInnen, Arbeitssuchende) haben. Die Ergebnisse der Gesamtstudie münden schließlich in konkrete Empfehlungen an die Politik.

Das Projekt wird in interdisziplinärer Zusammenarbeit mit dem Centre for Informatics & Society der TU Wien durchgeführt.

Laufzeit
08/2019 - 05/2020
Kontaktpersonen
Finanzierung
Partner