Demokratische Systeme befinden sich kontinuierlich im Wandel. Technik ist dabei ein bedeutender Faktor, insbesondere die Digitalisierung hat auch die Einrichtungen der repräsentativen Demokratie längst erreicht: Von der Außendarstellung im Internet und Kommunikationsflüssen im Intranet der politischen Institutionen über die Bedeutung der Sozialen Medien für politische Meinungsbildung, insbesondere in Vorwahlzeiten, und für den politischen Diskurs bis hin zur Live-Übertragung von Parteiveranstaltungen oder Parlamentsdebatten. Die Wissenschaft spricht von einem „digitalen Strukturwandel der Öffentlichkeit“.
Obwohl Künstliche Intelligenz (KI) bereits seit Jahrzehnten Gegenstand von Forschung und Entwicklung ist und in verschiedenen Bereichen (z.B. Medizin und Forschung) beträchtliche Erfolge erzielt hat, ist erst kürzlich durch den Aufstieg der sogenannten Generativen KI eine breitere Aufmerksamkeit entstanden. Dieser Begriff bezieht sich auf Software, die mithilfe von Maschinellem Lernen und umfangreichen Datensätzen (Texte, Bilder, Audio, Video) unter Einsatz statistischer Methoden und neuronaler Netze neue Inhalte generieren kann. Das aktuell bekannteste Beispiel ist ChatGPT. Generative KI-Anwendungen verbreiten sich derzeit rasant aufgrund ihrer Leistbarkeit, einfachen Bedienbarkeit und effektvollen wie schnellen Generierung von Inhalten. Diese Verbreitung erstreckt sich sowohl auf die allgemeine Bevölkerung als auch auf spezialisierte Anwendungen, insbesondere im Medienbereich, und beginnt, den öffentlichen Diskursraum zu transformieren.
Es ist mittlerweile praktisch ohne Vorkenntnisse und mit geringem Mitteleinsatz möglich, KI-generierte Inhalte zu erstellen, die zumindest Nicht-Expert:innen selten als solche erkennen können. Demgegenüber dürfte es auch langfristig kaum möglich sein, Inhalte technisch eindeutig als KI-generiert auszuweisen.
Dies birgt nicht zuletzt für die Demokratie Chancen wie auch Risiken. Zu den Chancen zählen etwa automatisierte Protokollerstellung oder die Sprachvereinfachung von komplexen Texten. Riskant erscheint hingegen, dass der bereits seit längerem zu beobachtende Einsatz von nicht-faktenbasierten manipulativen Inhalten (sog. Fake News) in den Sozialen Medien durch Generative KI deutlich einfacher, billiger und – aufgrund der für Menschen höheren Überzeugungskraft von Bewegtbildern – vermutlich noch wirksamer wird. Ein weiterer massiver Anstieg des Einsatzes von KI-Technologie ist daher zu erwarten, vor allem weil die hohe Reichweite und die Algorithmen der Sozialen Medien das Verbreiten von Deepfakes (täuschend echt wirkende Bilder bzw. Video- und Audioaufnahmen, die aber künstlich erstellt oder manipuliert sind) begünstigen.
Generative KI hat das Potenzial, bereits bestehende Verzerrungen zu verschärfen (Hassrede, Echokammern usw.), nämlich durch die erleichterte Erstellung irreführender, schädigender und polarisierender Inhalte und von Fake Accounts für Desinformationskampagnen. Darüber hinaus gibt es aber auch zusätzliche spezifische Folgen der Generativen KI: Ausgehend von den zum Training verwendeten Daten kann es zu systematischen Verzerrungen (Bias) kommen. Darüber hinaus kann auch Misinformation (ohne Täuschungsabsicht) „gelernt“ und in Folge weiterverbreitet werden. Mittelfristig ist eine Einschränkung der Diversität im Diskurs zu erwarten. Dazu kommt die prinzipielle mangelnde Verlässlichkeit der Textgeneratoren und damit die Gefahr der Misinformation durch sog. Halluzinationen.
Deepfakes haben Potenzial, demokratische Prozesse zu gefährden, da insbesondere Politiker:innen eine potenzielle Zielgruppe von Angriffen sind. Die Diskreditierung von Personen führt zu psychologischen und finanziellen Folgen, jene von Parteien, Journalismus und Medien zu Glaubwürdigkeitsverlust und der einhergehenden Schwächung demokratischer Institutionen. Schließlich können Deepfakes ein wirksames Mittel für Propaganda sein.
Zu den vielen Folgen dieser neuen Technologie zählen weiters die zunehmende wirtschaftliche Machtkonzentration im Bereich der KI-Entwicklung und des Angebots an entsprechenden Anwendungen (Stichwort: Digitale Souveränität) sowie das Anwendungspotenzial in der hybriden Kriegsführung: Die öffentliche Meinung in der gegnerischen Bevölkerung kann durch KI-generierte Desinformation beeinflusst, damit die öffentliche Ordnung destabilisiert und das Vertrauen in demokratische Strukturen geschwächt werden.
Von den zahlreichen regulativen, organisatorischen und technischen Ansätzen zum Umgang mit den Konsequenzen Generativer KI für die Demokratie wurden dem österreichischen Parlament insbesondere folgende zur näheren Befassung empfohlen:
