Auf dem Weg zu mehr Verständlichkeit und Transparenz

Anwendungen Künstlicher Intelligenz werden weit verbreitet eingesetzt. Sie bieten Entscheidungsgrundlagen und entscheiden oft selbst. Eine neue ITA-Studie fragt, wie man KI verständlich erklären und Risiken aufzeigen kann um auf Bedenken reagieren zu können.

In vielen Bereichen des Alltags sind wir mit digitalen Systemen konfrontiert. Häufig werden dabei Anwendungen künstlicher Intelligenz (KI) eingesetzt. Der Trend zu mehr KI ist eindeutig, gleichzeitig bestehen Bedenken, etwa hinsichtlich unserer Privatsphäre und unserer individuellen Entscheidungsgewalt. KI-Systeme können in vielen Anwendungsfeldern die Datenaufbereitung und Entscheidungsvorbereitung effizient unterstützen, andererseits werden Bedenken gegenüber automatisierten Entscheidungen der Systeme ohne Eingriffsmöglichkeit von Personen formuliert. Insbesondere die Komplexität und Intransparenz von KI-Systemen erzeugt Unbehagen.

Die EU-Kommission hat im April 2021 einen Vorschlag für ein KI-Gesetz vorgelegt, das einen Rechtsrahmen für die Entwicklung und den Einsatz vertrauenswürdiger KI-Systeme regeln soll. Ein wesentlicher Faktor bei der Beurteilung möglicher Auswirkungen des verstärkten Einsatzes von KI-Systemen ist die Möglichkeit, diese zu verstehen. Weiter sollen technische Verarbeitungsvorgänge transparent gestaltet werden. Transparenz ist nachweislich ein wesentlicher Faktor, der zum Aufbau von Vertrauen in KI-Systeme und die Institutionen, die sie anwenden und regulieren, beitragen kann.

Die Kurzstudie, die das Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften in Kooperation mit der Arbeiterkammer Österreich durchführt, untersucht inwieweit KI-Systeme für Konsument*innen nachvollziehbar und transparent gestaltet werden können, welche Maßnahmen dazu beitragen könnten und welche grundlegenden Ansprüche bezüglich KI-Systemen aus Sicht von Konsument*innen formuliert werden können.

Publikationen

Publikationen

  • ITA [Hrsg.],. (2022). Understanding AI. ITA Dossier No.62en (May 2022, Author: Walter Peissl). Wien. doi:10.1553/ita-doss-062en
  • Riedlinger, D. (2022). ITA-Studie für Arbeiterkammer: Entmündigung durch Künstliche Intelligenz?. Ita-Newsfeed. Retrieved from https://www.oeaw.ac.at/ita/detail/news/ita-ak-studie-entmuendigung-durch-kuenstliche-intelligenz
  • Udrea, T., Fuchs, D., & Peissl, W. (2022). Künstliche Intelligenz. Verstehbarkeit und Transparenz – Endbericht (p. 77). Wien. doi:/10.1553/ITA-pb-2022-01
  • ITA [Hrsg.],. (2022). KI verstehen? ITA-Dossier Nr. 62 (April 2022; Autor*innen: Titus Udrea, Daniela Fuchs, Walter Peissl). Wien. doi:10.1553/ita-doss-062
  • Riedlinger, D. (2021). KI verstehen?. Ita-Newsfeed. Retrieved from https://www.oeaw.ac.at/ita/detail/news/ki-verstehen
  • 1

Konferenzbeiträge/Vorträge

Konferenzbeiträge/Vorträge

  • 24.11.2022 , Feldkirch
    Walter Peissl,  Daniela Fuchs,  Titus-Ionut Udrea: 
    Transparente KI – geht das? Was meinen wir damit?
    Technikfolgenabschä̈tzung aus Arbeitnehmer:innenperspektive
  • 21.04.2022 , Wien
    Walter Peissl,  Daniela Fuchs,  Titus-Ionut Udrea: 
    Künstliche Intelligenz – Verstehbarkeit und Transparenz
    BAT-Klausur 2022: AI am Arbeitsplatz
  • 15.03.2022 , online
    Walter Peissl,  Daniela Fuchs,  Titus-Ionut Udrea: 
    Artificial intelligence - Explainability and transparency
    Trustworthy AI? Not without Consumer Protection!
  • 1

Laufzeit

10/2021 - 01/2022

Projektteam

Finanzierung