Generative künstliche Intelligenz ist ein mächtiges Werkzeug. Nicht nur Chats können so geführt werden, dass das Gegenüber einem Menschen täuschend echt erscheint. Auch Bilder, Videos oder menschliche Stimmen können erzeugt und Szenarien vermittelt werden, die nicht den Fakten entsprechen.

Das ITA hat die Risiken, aber auch die Chancen von Generativer KI im Auftrag des österreichischen Parlaments untersucht. Der Endbericht kann ab sofort auf der Website des Parlaments abgerufen werden. „Unser Ziel war es, Generative KI darauf hin zu untersuchen, wie sie von demokratischen Systemen sinnvoll eingesetzt werden kann. Es braucht dazu aber auch ein Bewusstsein, dass KI-Cyberkriminalität und Deepfakes eine ernsthafte Gefahr für die Demokratie darstellen“, betont ITA-Direktor Michael Nentwich.

Chancen umsetzen, aber richtig

Im Endbericht des ITA, der nun vorliegt, werden Themen wie digitale Souveränität, hybride Bedrohungen und KI-Cyberkriminalität ebenso behandelt wie mögliche Optionen für den Umgang mit KI. Die ITA-Forscher:innen schlagen eine Vielzahl an begleitende Maßnahmen vor, um Risiken einzuschränken und die neue Technologie demokratieverträglich zu gestalten.

Konkret schlagen die Studienautor:innen etwa vor, gut funktionierende Anwendungen des Einsatzes von Generativer KI in der Politik zu sammeln und auf einer Art "Demokratie-Plattform" zugänglich zu machen. Diese Plattform könnte auch im Zusammenhang mit Initiativen zu KI-Literacy eine wichtige Rolle spielen. „Vor allem wichtig ist, die Bevölkerung mitzunehmen“, meint Michael Nentwich. „Wir als Gesellschaft sollten uns darüber verständigen, wie demokratische Auseinandersetzungen in Zukunft geführt werden und welche Rolle KI-Anwendungen dabei spielen sollen.“ Factchecking und die Kennzeichnung von KI-Inhalten seien dringend notwendig, um Falschinformationen zu minimieren. Weitere vorgeschlagene Maßnahmen sind u.a. die Einrichtung einer parlamentarischen Enquetekommission "Demokratie und KI", die Erarbeitung eines Verhaltenskodex zu KI in der Politik sowie bundesweite Bürger:innen-Foren zu Grundsatzfragen der Demokratie.

Schadenspotential von Generativer KI beträchtlich

Generative KI kann dazu beitragen, Desinformation etwa in Form von Deepfakes massenhaft zu verbreiten. So birgt Microtargeting nicht nur Chancen, sondern auch Gefahren für demokratische Systeme, denn so können Wahlentscheidungen intransparent beeinflusst werden. Zur Vermeidung schlagen die Studienautor:innen ein generelles Verbot von politischem Microtargeting von Wähler:innen mithilfe von KI vor. Auch die Folgen für das Klima durch einen extrem hohen Verbrauch von Wasser, Energie und Land sowie unethische Arbeitsbedingungen beim Training und der Erzeugung von KI seien große Probleme.

Österreichische Politik vor neuen Herausforderungen  

Die Studienautor:innen kommen zum Schluss, dass das Parlament als demokratiepolitisch zentraler Akteur sich diesen kontroversen Themen annehmen muss. “Um das bestmögliche Funktionieren des politischen Systems in Österreich und der EU sicherzustellen müssen Maßnahmen auf breiter Basis diskutieren werden“, meint Nentwich  , „sowohl innerhalb wie außerhalb des Parlaments“. Die weltweite Vernetzung der meist außereuropäischen Tech-Konzerne und die relative Langsamkeit der Regulierung im Vergleich zur Technologieentwicklung machten das zu einer entscheidenden Herausforderung, die nur gemeinsam und in europäischer Zusammenarbeit bewältigt werden kann.