-> Generative artificial intelligence (AI) holds both opportunities and, in some cases, considerable risks for democracy.
-> Generative AI significantly simplifies,reduces the cost of, and enhances the persuasiveness of non-fact-based manipulative content (so-called fake news) on social media.
-> The many risks also include loss of trust, concentration of power, hybrid threats, and much more.
-> Opportunities exist, for example, in processing information or record keeping.
-> A balanced mix of measures must be taken to protect democratic processes

-> Generative Künstliche Intelligenz (KI) birgt
für die Demokratie sowohl Chancen als auch
zum Teil erhebliche Risiken.
-> Insbesondere nicht-faktenbasierte manipulative Inhalte (sog. Fake News) in den Sozialen Medien werden durch Generative KI deutlich einfacher, billiger und überzeugender.
-> Zu den vielen Risiken zählen weiters Vertrauensverlust, Machtkonzentration, hybride Bedrohungen u.v.m.
-> Chancen bestehen etwa in der Informationsaufbereitung oder bei der Protokollierung.
-> Zum Schutz der demokratischen Prozesse
sind konsequente Maßnahmen zu ergreifen.

Dieser Bericht stellt die Ergebnisse einer Technikfolgenabschätzungsstudie im Auftrag des österreichischen Parlaments dar. Ausgangspunkt war die Beobachtung, dass sich die relativ neue Technologie Generative Künstliche Intelligenz (KI) seit 2022 in großer Geschwindigkeit in vielfältige Lebensbereiche verbreitet. In manchen Bereichen wird ihr disruptives Potenzial attestiert und auch für die politische Sphäre werden nicht nur Chancen, sondern auch große Risiken gesehen.
Dementsprechend stellt der vorliegende Bericht diese Chancen Generativer KI für die Demokratie im Überblick dar und widmet sich im Hauptteil der Analyse der vielfältigen Risiken für die politische Meinungsbildung und den öffentlichen Diskurs. Der Bericht beginnt einleitend mit einer Darstellung des Stands der Technik, insbesondere von Text-, Bild-, Video- und Tongeneratoren und technischen Ansätzen, um KI-generierte Inhalte zu erkennen. Im Einleitungskapitel werden auch grundlegende, untersuchungsrelevante Begriffe wie Desinformation, Fake News und Co. erläutert. Ein eigenes Kapitel ist weiteren gesellschaftsrelevanten Folgen Generativer KI, etwa in den Bereichen Umwelt und Arbeit, gewidmet. Im letzten Teil werden Handlungsoptionen in den Bereichen Regulierung, Organisation und Technik erörtert und schließlich Schlussfolgerungen für das österreichische Parlament und die interessierte Öffentlichkeit gezogen.