Künstliche Intelligenz ist aus vielen Arbeitsbereichen nicht mehr wegzudenken. Aber wie verändern sich die Arbeitspraktiken der Wissensarbeit durch neue KI-basierte Automatisierungsformen? Und welche Einflussfaktoren und Kernkompetenzen sind relevant, um KI-Technologien konstruktiv einzusetzen? Das untersucht Stefan Strauß vom Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ÖAW) in dem Forschungsprojekt CAIL - Critical AI Literacy, gefördert vom Digifonds der Arbeiterkammer Wien. "Uns hat auch interessiert, inwieweit Erwartungen und realer Nutzen dieser Systeme zusammenpassen und welche Fallstricke es dabei zu beachten gibt", so Strauß im Interview. 

Zwischen Mehrwert und Mehraufwand 

Was müssen Unternehmen wissen, wenn sie den Einsatz von KI abwägen?

Stefan Strauß: Kurz gesagt, wie KI-Systeme funktionieren, was sie können und nicht können, für welchen Zweck sie glauben sie zu brauchen, und welche Anwendung konkret in die eigenen Arbeitsprozesse sinnvoll integrierbar ist. Eine wichtige Schlüsselfrage ist, wie man damit umgehen soll, wenn wir als Gesellschaft es nach und nach erlauben, mit KI-Systemen kognitive Fähigkeiten zu automatisieren. Das gängige Narrativ ist ja, dass KI höhere Effizienz bringt. Ob das im eigenen Bereich stimmt, sollten Unternehmen auf jeden Fall hinterfragen. Wir sind zum Schluss gekommen, dass ein möglicher Mehrwert nur gegeben ist, wenn die Handlungsfähigkeit individuell und institutionell – also von Mitarbeiter:innen und der Arbeitsorganisation – gestärkt wird. Entgegen gängiger Narrative können KI-Systeme nämlich nicht unbedingt Mehrwert, sondern auch viel Mehraufwand verursachen. 

Vielen Unternehmen ist unklar, was sie mit der Technologie machen sollen, weil das nötige Fachwissen fehlt. 

Nutzen Unternehmen in Österreich überhaupt schon KI?

Strauß: Ja, Tendenz steigend. 20 Prozent der Firmen setzen laut Zahlen für 2024 der Statistik Austria bereits KI-Systeme ein. Der Wow-Effekt hält sich derweil aber in Grenzen. Bislang experimentieren Unternehmen eher mit gut beworbenen Produkten wie zum Beispiel ChatGPT, Prozessautomatisierung mit spezialisierten KI-Systemen findet hingegen noch deutlich seltener statt. Vielen Unternehmen ist unklar, was sie mit der Technologie machen sollen, weil das nötige Fachwissen fehlt. Auch die Bedenken, zum Beispiel im Bereich Datenschutz und Sicherheit, nehmen zu und für viele ist schwer unterscheidbar, wo KI echten Mehrwert bringen kann und wo die Euphorie nur auf Hype basiert.

Wo lässt sich ein echter Mehrwert schaffen?

Strauß: Das hängt immer sehr stark davon ab, welche Tätigkeit konkret mittels KI automatisiert werden soll und wozu. Grundsätzlich ist unsere Prognose, dass die Reise für KI-Systeme nach dem Hype eher in Richtung Spezialisierung geht. Die Medizin ist ein gutes Beispiel, wo KI als Expertensystem genutzt wird, etwa bei bildgebenden Verfahren schon erfolgreich zur Auswertung von Röntgenbildern. In diesem Fall kann die Technologie tatsächlich die Arbeit der Ärzte erleichtern und erhöht die Effizienz. Das KI-System leistet Vorarbeit, stellt aber keine Diagnosen - diese Kompetenz bleibt beim Arzt und wird umso wichtiger. Solche KI-Systeme können repetitive Vorarbeiten übernehmen, wie zum Beispiel Anomalien und untersuchungsrelevante Bereiche vormarkieren, und verschaffen den menschlichen Experten so mehr Zeit, genauer hinzusehen und wichtige Entscheidungen zu treffen. Wichtig sind also Fachexpertise und sinnvolle Integration der Technologie in Arbeitsprozesse – also dass die KI-Anwendung auch die Anforderungen der zu unterstützenden Tätigkeiten in der Praxis erfüllt. Das gilt letztlich für alle Anwendungsbereiche, die Medizin ist hier einfach ein sehr gutes Beispiel.

Die Grenzen der KI 

Und wo liegen die Grenzen?

Strauß: KI ist letztlich ein Werkzeug und der Einsatz ist mit Wissensbedarf und Zusatzaufwand verbunden. Eine scheinbare Zeitersparnis in einem Bereich kann oft dazu führen, dass anderswo mehr Ressourcen gebraucht werden. Qualität und Korrektheit sind nichts, was KI an sich bieten kann. Das obliegt den Menschen, die damit arbeiten. Die Erwartungshaltung ist aber oftmals: KI nimmt Arbeit ab und macht sie besser. Das stimmt so nicht. KI-Einsatz verändert die Arbeitsorganisation. Wie gut das klappt, hängt von der Zuverlässigkeit der Technologie und der Prozessgestaltung ab. Zum Beispiel kann KI die Softwareentwicklung erheblich beschleunigen. Aber durch die Fehleranfälligkeit steigt im Gegenzug der Aufwand für die Qualitätskontrolle deutlich. Das zeigt sich auch anderen Bereichen. Gerade generative KIs machen bekanntermaßen häufig Fehler und generieren inkorrekte oder unbrauchbare Inhalte. Das stellt für die Qualität der Ergebnisse eine große Gefahr dar - im Mediensektor genauso wie in Arbeitsprozessen anderer Bereiche. Die Qualitätssicherung ist daher ein zentraler Faktor, der aufgrund der Besonderheiten von KI-Automation teils auch neu konzipiert werden muss. Denn KI ist dynamischer, volatiler und unberechenbarer als andere Technologien.

 Ein Auto fährt auch schneller als ein Mensch läuft, das macht ein Auto aber nicht überlegen.

Ist der Hype um Large Language Models (LLMs) übertrieben?

Strauß: Zu einem großen Teil ja. KI gibt es seit über 70 Jahren und weder generative KI noch LLMs sind von Open AI erfunden worden. Neu ist zunächst, dass das Thema jetzt ein Massenphänomen geworden ist, was zu einem erheblichen Teil an PR-Strategien liegt. Open AI betreibt ja fast mehr PR als Produktentwicklung. Wir sollten auch nicht vergessen, dass es in den vergangenen Jahrzehnten mehrere KI-Winter gegeben hat, die auf solche Hype-Phasen gefolgt sind. Es ist zwar bemerkenswert, wie rasch heute textbasiert Inhalte generierbar sind. Das ist aber noch kein Garant für Qualität. Die zahlreichen Fehler und Probleme sollten also nicht übersehen werden.

Ist das Silicon-Valley-Versprechen von einer wahrhaft intelligenten Maschine leer? Einige kürzlich publizierte Durchbrüche sind ja unzweifelhaft beeindruckend.

Strauß: Schon Alan Turing fand die Idee intelligenter Maschinen unseriös. Relevant ist etwas anderes: Das Narrativ, KI werde bald in allen Belangen besser sein als wir Menschen, ist hartnäckig und lässt sich gut verkaufen. Gerade erfolgreiche KI-Anwendungen wie zum Beispiel Googles AlphaFold widersprechen aber dieser Erzählung. Der sicherlich beeindruckende wissenschaftliche Durchbruch basiert ja nicht auf einem KI-System, das eigenständig etwas Neues entdeckt, sondern auf einem Team von WissenschaftlerInnen, das KI gezielt und wohlüberlegt zur Unterstützung der Forschung genutzt hat. Entscheidend ist also der intelligente Einsatz von KI als exploratives Werkzeug zur unterstützenden Bewältigung komplexer Aufgaben. Alleine kann KI gar keine Aufgaben bearbeiten, die nicht formalisierbar sind. Mehrwert ist daher vor allem bei Routineaufgaben möglich, die ein Teil komplexer Aufgaben sein können. Es geht also nicht darum, ob und wo KI den Menschen überlegen sein kann. Ein Auto fährt auch schneller als ein Mensch läuft, das macht ein Auto aber nicht überlegen. Relevant ist die Frage, wo KI-Technologie Tätigkeiten sinnvoll ergänzen kann, sodass Menschen unterstützt in ihrer Handlungsfähigkeit gestärkt werden.

Quo vadis, KI? 

Das heißt aber noch nicht, dass die Versprechen falsch sind. Was ist, wenn zukünftige Systeme deutlich besser werden?

Strauß: Das stimmt. Nur weil die Systeme heute allein keine komplexen Aufgaben lösen können, heißt das nicht, dass das immer so bleiben wird. Heutige Machine-Learning-Methoden sind aber trotz faszinierender Performance eher Hochleistungsstatistik und gar nicht mit menschlicher Intelligenz vergleichbar. KIs sind Maschinen, die zwar berechnen, aber nichts verstehen oder interpretieren können. Zudem gibt es eine Reihe von Problemen wie zum Beispiel sogenannten „Halluzinationen“, also quasi spontan erzeugte Fehler oder auch das wachsende Problem des „Model Collapse“ gerade bei generativer KI. Also viele Baustellen, die nicht so schnell verschwinden. Vielleicht bringen neue Ansätze in der Kombination zwischen Biologie und Informatik hier irgendwann einen qualitativen Durchbruch, aber da steht noch vieles am Anfang.

Menschen neigen zur „Vermenschlichung“ der Dialogsysteme und schätzen damit die Ergebnisse mitunter falsch ein.

Das wirft zudem viele ethische Fragen auf. Jede KI ist heute eine Art Automat und nichts anderes. Vergleiche zwischen Mensch und Maschine sind generell problematisch. Bei Dialog-Systemen wie Chatbots gibt es hierfür ja unter anderem auch den Begriff des ELIZA-Effekts: Menschen neigen zur „Vermenschlichung“ der Dialogsysteme und schätzen damit die Ergebnisse mitunter falsch ein. Menschen tappen also schnell in die Falle, Systemen Intelligenz zuzuschreiben, wo keine ist. Das ist auch ein zentraler Aspekt des Grundproblems von (deep) Automation Bias: Es kommt zu Fehleinschätzungen über die Funktionsweise von automatisierten Systemen und die Aussagekraft automatisiert erzeugter Information. Kurz gesagt: Blindes Vertrauen in Technologie und unkritisches Akzeptieren KI-generierter Ergebnisse. Gerade deshalb braucht es mehr Critical AI Literacy in allen Bereichen.

Die KI in der Arbeitswelt

Müssen ArbeiterInnen also keine Angst haben, von KI ersetzt zu werden?

Strauß: Das ist sehr bereichsabhängig und pauschal ist derzeit empirisch zumindest kein Arbeitsplatzverlust allein wegen KI-Einsatz erkennbar. Die Frage ist immer, welcher Nutzen wird erwartet und ob sich dieser mit dieser Art von Technologie realisieren lässt. Dazu müssen Firmen immer auch wissen, wie sie eine neue Technologie integrieren wollen. Das erfordert neben klarer Planung auch Einbindung der Belegschaft. Es muss geklärt werden, ob Logiken und Anforderungen konkreter Arbeitspraktiken und Funktionalität der Technologie überhaupt zusammenpassen. Ist das nicht der Fall, dann ist der Nutzen generell fraglich. Wichtig ist zudem: KI-Systeme sind meist nicht regelbasiert und funktionieren daher nicht wie herkömmliche Automatisierungs-Technologien. Sie und damit sehr unberechenbar. KI-Systeme sind komplexer, dynamischer, aber auch volatiler und damit nicht nur intransparenter, sondern auch unberechenbarer. Das heißt, sie können sich plötzlich ganz anders verhalten als zuvor. Das macht die Qualitätskontrolle sehr schwierig, was tendenziell nicht weniger, sondern mehr Arbeit bedeutet.

KI-Systeme sind komplexer, dynamischer, aber auch volatiler.

In der Medienbranche werden die Systeme trotzdem schon eingesetzt. 

Strauß: Nicht nur dort. Es gibt ja schon sehr viele Anwendungsfelder. In der Contentproduktion ist der Einfluss aber schon stark spürbar, allerdings weniger aufgeregt, als oftmals erwartet. Vordergründig werden bislang kleinere Tätigkeiten wie zum beispiel Labeling, Bildbearbeitung, Datenaufbereitung, Transkriptionen, oder die Aufbereitung multimedialer Inhalte mit KI unterstützt. Auch das sind Bespiele für repetitive Aufgaben, die KI nicht ersetzt, sondern ergänzt. Im Bildungssektor gibt es einerseits viele neue Möglichkeiten, etwa zur Erstellung didaktischer Materialien oder zum kreativen Lernen. Andererseits sind gerade hier sehr viele Fragen offen. SchülerInnen und StudentInnen nutzen KI längst und das Lehrpersonal weiss oftmals nicht, wie damit umgegangen werden soll.

Critical AI Literacy

Wie können wir als Gesellschaft das nötige Grundverständnis für KI-Technologien entwickeln, um solche Herausforderungen zu bewältigen?

Strauß: Es braucht Bildungskonzepte für den Umgang mit KI in Unternehmen und für die breite Bevölkerung. Wichtig ist vor allem Kompetenz zur richtigen Einordnung dessen, was die Technologie kann und was nicht. KI kann ein Unterstützungswerkzeug sein, sei es explorativ oder zur Stimulation von Kreativität, aber sie ist kein Ersatz für die Wissensvermittlung. Ergebnisse müssen korrekt interpretiert und kontextuell eingeordnet werden. Denken Sie nur an Deepfakes und KI-generierte Inhalte im Internet, die sind bereits Realität und es braucht neben konkreten Maßnahmen wie Kennzeichnung von KI-Inhalten auch Bildungskonzepte, damit Menschen verstehen, was KI-Systeme können, was nicht und wie Ergebnisse zu interpretieren sind. Da geht es nicht so sehr um technische Skills. Im Gegenteil gewinnt die Vermittlung von „klassischen“ Kernkompetenzen wie logisches und analytisches Denken, Interpretationsfähigkeit und Problemlösungskompetenz gerade durch KI-Einsatz noch mehr an Bedeutung. Wissen stärkt auch die Handlungsfähigkeit und die ist entscheidend, um eben nicht alles an KI auszulagern.