Anwendungen Künstlicher Intelligenz werden weit verbreitet eingesetzt. Sie bieten uns nicht nur Möglichkeiten an, sondern entscheiden oft selbst, indem sie uns bereits optimierte „Lösungen“ präsentieren. Warum habe ich diesen Kredit nicht bekommen? Wieso werde ich als Zielgruppe für diese Werbung eingestuft? „Die Antwort darauf ist für Laien aber nicht verfügbar, weil irgendein Faktor eine Kettenreaktion auslöst und der Algorithmus darauf basierend ein Ergebnis berechnet“, meint Titus Udrea, der am Institut für Technikfolgen-Abschätzung (ITA) der ÖAW dazu forscht.
„Weil KI-Systeme hochkomplex sind, verstehen wir nur sehr begrenzt, wie sie funktionieren und welche Faktoren die Ergebnisse am Ende wie beeinflussen. Wir akzeptieren diese Graubereiche daher als vorgegeben. Wie können wir aber so unterscheiden, wann und in welchem Zusammenhang KI-System unbedenklich oder gefährlich sind?“, gibt Projektleiter Walter Peissl zu bedenken.
Die Kurzstudie, die das ITA in Kooperation mit der Arbeiterkammer Österreich durchführt, untersucht, inwieweit KI-Systeme für Konsument*innen nachvollziehbar und transparent gestaltet werden können. Anlass dazu ist der Vorschlag der EU-Kommission für ein EU-weites KI-Gesetz, das einen Rechtsrahmen für die Entwicklung und den Einsatz vertrauenswürdiger KI-Systeme vorgeben soll.