Wenn Algorithmen Menschen einteilen

Arbeitslose werden seit kurzem mittels künstlicher Intelligenz in mehr oder weniger förderungswürdig eingeteilt. Ist das fair?

Das österreichische Arbeitsmarktservice (AMS) verwendet seit kurzem ein algorithmisches System um zu entscheiden, welche Arbeitslosen wie gefördert werden sollen. Unser Alter, unsere Staatsbürgerschaft, das Geschlecht, die Ausbildung, Betreuungspflichten oder unsere vergangenen Beschäftigungen – all diese Daten werden heran gezogen, um unsere Chancen am Arbeitsmarkt zu beurteilen. So will man möglichst genau vorhersagen, ob jemand kurz- oder langfristig erfolgreich wieder in den Arbeitsmarkt einsteigen kann.

Aber wie fair ist das? Technikforscherin Doris Allhutter vom ITA hat den neuen AMS-Algorithmus auf seine Folgen für Arbeitssuchende hin unter die Lupe genommen. Er berge eine Reihe an Herausforderungen, die auch andere ähnliche Systeme in der öffentlichen Verwaltung betreffen: „Das dem Algorithmus zugrundeliegende Modell erfasst meiner Ansicht nach nur einen vereinfachten Blick auf die Situation der Arbeitssuchenden. Im sogenannten „Arbeitsmarktchancen-Modell“ werden beispielsweise für Frauen, Ältere und Menschen mit Beeinträchtigungen schlechtere Chancen prognostiziert.“

Kritik an absoluten Ergebnissen

Das AMS weist wiederum darauf hin, dass die Gruppenzuweisung bei Bedarf von SachbearbeiterInnen geändert werden kann. Diese Möglichkeit wird vor allem dadurch begründet, dass Informationen über persönliches Auftreten, Motivation und andere „Soft Skills“ vom algorithmischen Modell nicht abgebildet werden können. Aber unter welchen Bedingungen geschieht das in der Praxis, und wird das AMS-Personal adäquat geschult, um diese Soft Skills zu erkennen und ermutigt, die Änderungen auch vorzunehmen?

Das aktuelle ITA-Dossier „Der AMS-Algorithmus am Prüfstand“ gibt Auskunft darüber, wie der Algorithmus funktioniert und schlägt Maßnahmen vor, um den Umgang damit transparent, sozial kompetent und fair zu gestalten.

Links

ITA-Dossier: Der AMS-Algorithmus am Prüfstand

15.07.2019
Von: dr

Im Arbeitsmarktservice wird seit November 2018 eine neue algorithmische Klassifikation eingesetzt. (Foto: ITA)