Der Einsatz von Künstlicher Intelligenz stellt die Wissensarbeit vor neue Herausforderungen. Der Endbericht des rund 1 ½- jährigen Forschungsprojekts CAIL (Critical AI Literacy) behandelt u.a., welche Widersprüche und Gemeinsamkeiten zwischen Wissensarbeit und KI bestehen, welchen Mehrwert KI-Anwendungen tatsächlich bringen können, und welche zentralen Herausforderungen dabei zu bewältigen sind.

Anhand des im Projekt ausgearbeiteten CAIL-Frameworks wird aufgezeigt, welche Einflussfaktoren und Grundkompetenzen – insbesondere menschliche Interpretationsfähigkeit und Bewältigungsfähigkeit – im Umgang mit KI-Systemen entscheidend sind, um den Herausforderungen konstruktiv begegnen zu können. 

Nutzen von KI "wird überschätzt"

Stefan Strauß, Projektleiter und KI-Experte am Institut für Technikfolgen-Abschätzung (ITA) der ÖAW und, meint dazu: „Die Analyse zeigt unter anderem, dass KI vor allem bei repetitiven, formalisierbaren Tätigkeiten unterstützen kann. Allerdings sind noch viele Fragen offen: Der Nutzen von KI wird teils überschätzt und es mangelt an Wissen über den realen Nutzen und die Grenzen der Technologien. Es gibt eine Art Kluft zwischen KI-Einsatz als Expertensystem und „Nebenbei“-Anwendung. Je unkonkreter der Einsatz, desto größer können auch die Probleme in der Arbeitspraxis ausfallen.“

Sehr viel Potenzial bestünde laut Studienautor Stefan Strauß in Bereichen mit hoher Fachexpertise, etwa bei der bildgebenden Diagnostik in der Medizin. In allen Bereichen gilt: Fachwissen, klare Einsatzzwecke und Problembewusstsein über die Besonderheiten KI-basierter Automatisierung (wie Dynamik, Komplexität, Volatilität) sind entscheidende Faktoren für konstruktive Nutzung. Die Annahme, dass es durch KI zu einer Arbeitsentlastung kommt, sei dagegen schwer haltbar.

Menschliche Kontrolle weiter dringend notwendig

Den hohen Erwartungen an Mehrwert steht ein unterschätzter Mehraufwand durch KI-Einsatz gegenüber - insbesondere zur Qualitätssicherung. KI-Systeme könne zwar rasch Ergebnisse produzieren, es braucht aber zusätzliche Maßnahmen, um Korrektheit oder Zuverlässigkeit der Ergebnisse sicher zu stellen. „Die Interpretation und Überprüfung bleibt eine wesentliche menschliche Aufgabe, die künftig sogar noch wichtiger wird. Daher wird Critical AI Literacy zu einem Bestandteil moderner Wissensarbeit“, betont Strauß.