Fabian Fischer hat Informatik und Wissenschafts- und Technikforschung studiert. In seiner Forschung an der Schnittstelle dieser Disziplinen fokussiert er sich auf die kritische Betrachtung algorithmischer und datengetriebener Systeme, inklusive Künstlicher Intelligenz. Darüber hinaus sind Inter- und Transdisziplinarität ein weiterer Schwerpunkt seiner Arbeit.
Nach dem Abschluss des Studiums der Informatik an der TU Wien (Dipl.-Ing., Studienzweig „Computational Intelligence“) hat er das Master-Studium „Science-Technology-Society“ an der Universität Wien absolviert. Aktuell läuft ein Doktoratsstudium in STS an der Universität Wien.
Fabian Fischer war 2014-2019 in verschiedenen EU- und national geförderten Forschungs- und Entwicklungsprojekten an der WU Wien, Modul University und Spin-Offs als Researcher tätig. In dieser Zeit hat er an skalierbarer Software zur (beinahe) Echtzeit-Auswertung von Online-Medien und sog. Sozialen Medien mittels Natural Language Processing und Wissensbasen gearbeitet.
Anschließend wechselte er 2019-2021 an die Forschungsgruppe Multidisciplinary Design and User Research an der TU Wien/Informatik und war unter anderem am Centre for Informatics and Society (C!S), dem hochschulübergreifenden Center for Technology and Society (CTS) und dem inter- und transdisziplinären aspern.mobil LABOR beteiligt. In dieser Zeit hat er auch an der soziotechnischen Analyse des sog. AMS-Algorithmus mitgewirkt.
Seit 2023 ist er Mitglied der Young Section der ARGE KI und Menschenrechte der Österreichischen Forschungsgesellschaft.
Bevor er 2024 an das ITA wechselte, war er an der Universität für Angewandte Kunst Universitätsassistent und an der Durchführung des experimentellen Studiengangs „Cross-Disciplinary Strategies. Applied Studies in Art, Science, Philosophy, and Global Challenges“ beteiligt und hat innovative inter- und transdisziplinäre Lehrformate entwickelt.
Dieser Bericht stellt die Ergebnisse einer Technikfolgenabschätzungsstudie im Auftrag des österreichischen Parlaments dar. Ausgangspunkt war die Beobachtung, dass sich die relativ neue Technologie Generative Künstliche Intelligenz (KI) seit 2022 in großer Geschwindigkeit in vielfältige Lebensbereiche verbreitet. In manchen Bereichen wird ihr disruptives Potenzial attestiert und auch für die politische Sphäre werden nicht nur Chancen, sondern auch große Risiken gesehen.
Dementsprechend stellt der vorliegende Bericht diese Chancen Generativer KI für die Demokratie im Überblick dar und widmet sich im Hauptteil der Analyse der vielfältigen Risiken für die politische Meinungsbildung und den öffentlichen Diskurs. Der Bericht beginnt einleitend mit einer Darstellung des Stands der Technik, insbesondere von Text-, Bild-, Video- und Tongeneratoren und technischen Ansätzen, um KI-generierte Inhalte zu erkennen. Im Einleitungskapitel werden auch grundlegende, untersuchungsrelevante Begriffe wie Desinformation, Fake News und Co. erläutert. Ein eigenes Kapitel ist weiteren gesellschaftsrelevanten Folgen Generativer KI, etwa in den Bereichen Umwelt und Arbeit, gewidmet. Im letzten Teil werden Handlungsoptionen in den Bereichen Regulierung, Organisation und Technik erörtert und schließlich Schlussfolgerungen für das österreichische Parlament und die interessierte Öffentlichkeit gezogen.
Nentwich, M. (Speaker) & Fischer, F. (Speaker)
-> Generative artificial intelligence (AI) holds both opportunities and, in some cases, considerable risks for democracy.
-> Generative AI significantly simplifies,reduces the cost of, and enhances the persuasiveness of non-fact-based manipulative content (so-called fake news) on social media.
-> The many risks also include loss of trust, concentration of power, hybrid threats, and much more.
-> Opportunities exist, for example, in processing information or record keeping.
-> A balanced mix of measures must be taken to protect democratic processes
-> Generative Künstliche Intelligenz (KI) birgt
für die Demokratie sowohl Chancen als auch
zum Teil erhebliche Risiken.
-> Insbesondere nicht-faktenbasierte manipulative Inhalte (sog. Fake News) in den Sozialen Medien werden durch Generative KI deutlich einfacher, billiger und überzeugender.
-> Zu den vielen Risiken zählen weiters Vertrauensverlust, Machtkonzentration, hybride Bedrohungen u.v.m.
-> Chancen bestehen etwa in der Informationsaufbereitung oder bei der Protokollierung.
-> Zum Schutz der demokratischen Prozesse
sind konsequente Maßnahmen zu ergreifen.
Dipl.-Ing. BSc MA
Tel.: +43 (0)1 515 81-6582
Fax: (+43-1-) 515 81-6570
Bäckerstraße 13, 1010 Wien
fabian.fischer(at)oeaw.ac.at
