CAIL - Critical AI Literacy

Der Einsatz Künstlicher Intelligenz (KI) ist mit vielen Erwartungen verknüpft und hat mittelfristig enorme Effekte auf die Arbeitswelt. Neben angestrebten Effizienzgewinnen in der Arbeitsorganisation gilt KI als Hoffnungsträger  zur Stärkung der Wissensarbeit. Doch wie können neue, KI-basierte Automatisierungsformen die Arbeitspraktiken der Wissensarbeit konstruktiv ergänzen? Welche Herausforderungen gibt es dabei, und welche Rolle spielen Wissen und technische Grundkompetenzen?

Um das Potenzial KI-basierter Technologien in der Arbeitspraxis konstruktiv ausschöpfen zu können, braucht es vor allem Wissen: über Funktionsweisen, Möglichkeiten aber auch Grenzen und die damit verbundenen Auswirkungen der Technologien auf die Arbeitsorganisation. Das Forschungsprojekt untersucht daher, wie sich Arbeitspraktiken der Wissensarbeit verändern und erarbeitet darauf basierend Lösungsansätze zur Stärkung von kritischer Technikkompetenz zum verantwortungsvollen Einsatz KI-basierter Technologien (Critical AI Literacy).

Ein Ausgangspunkt des Projekts ist die These, dass die durch den KI-Einsatz entstehenden neuen Automatisierungsformen das Risiko von Automation Bias erhöhen können. Das hängt von verschiedenen Faktoren ab. Automation Bias bedeutet wörtlich automatisierte Verzerrung und hat mehrere Ebenen: Zum einen die menschliche Tendenz, Technologien „blind“ zu vertrauen, die u.a. von technischer Kompetenz abhängt. Zum anderen die technische Komplexität und Intransparenz, die dazu führen kann, dass Menschen nicht mehr in der Lage sind, technische Abläufe zu verstehen und richtig zu interpretieren. Das Risiko ist insbesondere dann begünstigt, wenn der Anwendungskontext einer Technologie nicht hinreichend mit der Arbeitspraxis übereinstimmt, es also ein Missverhältnis zwischen technischer Funktionsweise und praktischen Anforderungen in bestimmten Kontexten gibt. Das kann neben unentdeckten technischen Fehlern zu Fehlentscheidungen und ineffezienteren Arbeitsabläufen führen.

Im Rahmen des Projekts werden diese Faktoren und ihre Bedeutung in der betrieblichen Praxis genauer analysiert. Dazu werden Fallstudien in ausgewählten Bereichen und qualitative Interviews mit Expert:innen aus Forschung und betrieblicher Praxis durchgeführt. Ein Ziel ist es zentrale Einflussfaktoren, Problemfelder und Kriterien für Schlüsselkompetenzen zu identifizieren.
Auf Basis der gewonnenen Erkenntnisse wird zu Projektende ein praxisorientierter Leitfaden für die Stärkung kritischer Technikkompetenz im Betrieb erarbeitet, um Problembewusstsein und konstruktiven, sozialverträglichen Umgang mit Digitalisierung und KI-basierten Technologien in Betrieben zu fördern.