Algorithmische Systeme werden im öffentlichen Sektor - beispielsweise in der Sozialversicherung - bereits entscheidungsunterstützende als Diagnose- und Prognoseinstrumente eingesetzt. Doch es gibt begründete Bedenken wegen der Unzuverlässigkeit dieser Systeme. In Europa zielen Rechtsrahmen wie die Datenschutz-Grundverordnung (DSGVO) und das KI-Gesetz darauf ab, Menschen vor diesen Risiken zu schützen. Die im öffentlichen Sektor am häufigsten verwendete Schutzmaßnahme – die von der DSGVO vorgeschrieben ist – ist die Überwachung algorithmischer Systeme durch Mitarbeiter an vorderster Front, oft als "Human in the Loop" bezeichnet.

Beim ITA-Seminar ""Human in the Loop" - an unreliable protection against algorithmic harms" am Institut für Technikfolgenabschätzung der ÖAW erörtert Karolina Sztandar-Sztanderska vom Institut für Philosophie und Soziologie der Polnischen Akademie der Wissenschaften, ob diese Schutzmaßnahme wirklich wirksam ist. Auf der Grundlage einer Mixed-Methods-Studie zu einem Profiling-Algorithmus, der von den öffentlichen Arbeitsverwaltungen in Polen verwendet wird, wird Karolina Sztandar-Sztanderska Belege dafür präsentieren, dass Mitarbeiter an vorderster Front sich zu sehr auf algorithmische Empfehlungen verlassen, und erklären, wie politische, organisatorische, berufliche und technol"ogische Faktoren ihre Fähigkeit zur Überwachung solcher Systeme einschränkten.

Weitere Informationen

Anmeldung bei tamail(at)oeaw.ac.at