16.04.2020

Wenn Algorithmen für uns entscheiden

Im Auftrag der Stiftung TA-SWISS untersuchten die Universität Zürich und die Empa gemeinsam mit dem ITA Chancen und Risiken der künstlichen Intelligenz. Für Ko-Autor Johann Čas vom ITA sind Transparenz und die Einhaltung der Grundrechte entscheidend.

„Wenn wir etwa beim Arzt oder im Studium mit künstlicher Intelligenz konfrontiert sind, dann sollten wir darüber auch klar informiert werden“, ist Johann Čas, Projektleiter am Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften, überzeugt. Die im Auftrag der Schweizer Stiftung für Technologiefolgen-Abschätzung (TA SWISS) erstellte Studie „Wenn Algorithmen für uns entscheiden“ wurde am Mittwoch in einer Online-Pressekonferenz präsentiert. Darin heißt es u.a.: „Bürgerinnen, Konsumenten und Arbeitnehmende sollen im Umgang mit Staat, Unternehmen oder ihrem Arbeitgeber so transparent wie möglich über den Einsatz von KI informiert sein.“

Und wie geht das?

Die Studie konzentriert sich auf die Anwendungsbereiche Arbeit, Bildung und Forschung, Konsum, Medien und Verwaltung. Wo kann KI menschliche Entscheidungen unterstützen? Kann sie diese gar ersetzen? „KI darf nie ein Ersatz für das menschliche Urteilsvermögen sein“, ist sich Čas sicher. Er forscht am ITA vorrangig zu ethischen Aspekten neuer Technologien. „Ethik im Zusammenhang mit KI bedeutet etwa, dafür zu sorgen, dass niemand durch KI diskriminiert wird. Eine öffentliche Debatte gab es in Österreich zuletzt etwa im Zusammenhang mit dem AMS-Algorithmus. Auch private Personalvermittlungen und Unternehmen verwenden bereits KI, wenn es darum geht, passende Kandidaten für eine Stelle zu ermitteln.“

Wie lässt sich also für ausreichend Transparenz sorgen? „Zunächst einmal müssen Kund*innen, Patient*innen und andere Gruppen das Recht und die Möglichkeit haben, ihre Daten einzusehen und bei Bedarf entsprechend zu korrigieren. Sie sollten auch ein Recht darauf haben, von KI getroffene Entscheidungen zu beanspruchen“, ist Čas überzeugt.

KI als Job-Killer?

Den vielfach gefürchteten Einsatz von KI für die Arbeitswelt sehen die Expert*innen auch als Chance: Die durch KI möglichen Produktivitätsgewinne könnten genutzt werden, um Arbeitszeiten zu verkürzen und um Arbeit und damit verbundene Einkommen gerechter zu verteilen; durch neue Dienstleistungen und Produkte könnten auch neue Arbeitsfelder erschlossen werden. Vorsicht ist gefragt, wenn es um den Einsatz in den Medien geht: KI wird zum Beispiel bereits zur Erstellung und Verbreitung von Fake-News verwendet, Medien und Staat hätten darum auch die Aufgabe, Fake-News zu identifizieren und zu widerlegen. (DR)

Die Studie ist hier als Open Access eBook abrufbar:
Wenn Algorithmen für uns entscheiden: Chancen und Risiken der künstlichen Intelligenz