Auf dem Weg zu mehr Verständlichkeit und Transparenz

Anwendungen Künstlicher Intelligenz werden weit verbreitet eingesetzt. Sie bieten Entscheidungsgrundlagen und entscheiden oft selbst. Eine neue ITA-Studie fragt, wie man KI verständlich erklären und Risiken aufzeigen kann um auf Bedenken reagieren zu können.

In vielen Bereichen des Alltags sind wir mit digitalen Systemen konfrontiert. Häufig werden dabei Anwendungen künstlicher Intelligenz (KI) eingesetzt. Der Trend zu mehr KI ist eindeutig, gleichzeitig bestehen Bedenken, etwa hinsichtlich unserer Privatsphäre und unserer individuellen Entscheidungsgewalt. KI-Systeme können in vielen Anwendungsfeldern die Datenaufbereitung und Entscheidungsvorbereitung effizient unterstützen, andererseits werden Bedenken gegenüber automatisierten Entscheidungen der Systeme ohne Eingriffsmöglichkeit von Personen formuliert. Insbesondere die Komplexität und Intransparenz von KI-Systemen erzeugt Unbehagen.

Die EU-Kommission hat im April 2021 einen Vorschlag für ein KI-Gesetz vorgelegt, das einen Rechtsrahmen für die Entwicklung und den Einsatz vertrauenswürdiger KI-Systeme regeln soll. Ein wesentlicher Faktor bei der Beurteilung möglicher Auswirkungen des verstärkten Einsatzes von KI-Systemen ist die Möglichkeit, diese zu verstehen. Weiter sollen technische Verarbeitungsvorgänge transparent gestaltet werden. Transparenz ist nachweislich ein wesentlicher Faktor, der zum Aufbau von Vertrauen in KI-Systeme und die Institutionen, die sie anwenden und regulieren, beitragen kann.

Die Kurzstudie, die das Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften in Kooperation mit der Arbeiterkammer Österreich durchführt, untersucht inwieweit KI-Systeme für Konsument*innen nachvollziehbar und transparent gestaltet werden können, welche Maßnahmen dazu beitragen könnten und welche grundlegenden Ansprüche bezüglich KI-Systemen aus Sicht von Konsument*innen formuliert werden können.

Publikationen

Publikationen

Konferenzbeiträge/Vorträge

Konferenzbeiträge/Vorträge

Laufzeit

10/2021 - 01/2022

Projektteam

Finanzierung