Auf dem Smartphone ploppt eine Nachricht auf. Ein Bild ist zu sehen, das Ausschreitungen auf einer US-amerikanischen Straße zeigt, dazu ein Zitat, eine Schlagzeile, ein Datum. Es sieht aus wie ein Nachrichtenbeitrag, aber es ist keiner. Dahinter steckt eine erfundene Geschichte mit einem KI-generierten Bild.

Mit dem rasanten Aufstieg generativer KI-Systeme lassen sich täuschend echte Bilder, Texte und Videos in Minuten produzieren und kaum noch von authentischen Inhalten unterscheiden. Selbst professionelle Redaktionen sind nicht immun dagegen, wie der Fall einer inzwischen abberufenen ZDF-Korrespondentin zeigt: In ihrem Beitrag über Abschieberazzien der US-Einwanderungsbehörde ICE, tauchten KI-generierte Bilder auf. Auch in der aktuellen Iran-Berichterstattung sind Agenturbilder aufgetaucht, die vermutlich KI-manipuliert sind – darunter Aufnahmen eines iranischen Flugzeugträgers und einer Explosion in Teheran. Trotzdem wurden diese Bilder von großen Medienhäusern verwendet. Die Prüfungen dazu laufen noch.

„So etwas sollte nicht passieren“, sagt Andreas Schulz-Tomančok, Kommunikationswissenschaftler am Institut für Vergleichende Medien- und Kommunikationsforschung der Österreichischen Akademie der Wissenschaften (ÖAW) und der Universität Klagenfurt. Aber es zeige, dass auch in Redaktionen Kontrollmechanismen versagen können, ohne dass böse Absicht dahinterstecke.

Desinformation, Misinformation, Fake News

Wer das Phänomen verstehen will, muss zunächst die Begriffe sortieren. Schulz-Tomančok, der sich seit Jahren mit Kommunikationsmustern im digitalen Raum beschäftigt, unterscheidet: Misinformation bezeichnet falsche Inhalte, die unbeabsichtigt verbreitet werden. Desinformation hingegen ist intentional. Sie wird gezielt eingesetzt, um zu täuschen. Und Fake News? Der Begriff ist seit 2016, im Zuge der Brexit-Debatte und der US-Wahl Donald Trumps, zum politischen Kampfbegriff geworden. „Seitdem wird er verwendet, um seriösen Journalismus als falsche Nachrichten zu diffamieren“, erklärt der Wissenschaftler. Weil der Begriff durch seine Vereinnahmung durch Rechtspopulist:innen – Stichwort „Lügenpresse“ – so aufgeladen ist, empfiehlt er in der Forschung, lieber von Desinformation zu sprechen.

Die Konsequenzen der gezielten Desinformation sind jedenfalls weitreichend. Schulz-Tomančok: „Wenn wir uns gesellschaftlich nicht mehr darauf einigen können, was wahr und was falsch ist, ist der gesellschaftliche Zusammenhalt ernsthaft gefährdet.“

Wer verbreitet Desinformation – und warum?

Hinter Desinformationskampagnen stecken in der Regel zwei Arten von Motiven: ökonomische und politische. Clickbait-Seiten nutzen emotionalisierende Falschmeldungen, um Klicks zu generieren und Werbeeinnahmen zu erzielen. Politisch motivierte Akteur:innen, häufig Netzwerke von Bots, zielen darauf ab, den öffentlichen Diskurs zu destabilisieren. „Sie gehen meist gegen Minderheiten oder gesellschaftsliberale Werte vor“, erklärt Schulz-Tomančok.

Besonders besorgniserregend findet der Wissenschaftler die strategische Dimension von Desinformation: die gezielte Diskreditierung des Journalismus als Institution. Die Logik dahinter ist einfach und gefährlich: Wenn die freie Presse – traditionell als vierte Säule der Demokratie bezeichnet – systematisch delegitimiert wird, wenden sich Menschen anderen Informationsquellen zu, solchen, die sich jeder Regulierung entziehen, wie Inhalten auf sozialen Netzwerken und Messenger Gruppen.

Wer fällt auf Falschnachrichten herein?

Die Frage, wer am anfälligsten für Desinformation ist, beantwortet die Forschung differenziert. Eine aktuelle Studie mit über 66.000 Befragten aus 24 Ländern zeigt: Vor allem die Generation Z, weniger gebildete und konservative Personen haben Schwierigkeiten, echte von falschen Nachrichten zu unterscheiden.

Überraschend ist jedoch, was die Studie über das Selbstbild der Befragten offenbart. „Die Gen Z hat ein vergleichsweise gutes Bewusstsein dafür, dass sie selbst Desinformation oft nicht erkennen kann“, sagt Schulz-Tomančok. „Sie weiß auch, dass sozialen Netzwerken nicht zu vertrauen ist – nutzt sie aber trotzdem.“ Problematischer sei ein anderes Muster: „Ältere, konservative Personen schätzen ihre eigene Medienkompetenz häufig zu hoch ein und verbreiten Falschnachrichten dann unbewusst – etwa in Familien- oder Freundschaftschats.“

Gegenmittel: Regulierung und Bildung

Auf regulativer Ebene gibt es zumindest in Europa bereits Ansätze. Der Digital Services Act der EU verpflichtet große Plattformen zur Transparenz und zu Maßnahmen gegen die Verbreitung von Desinformation. Doch Regulierung allein kann das Problem nicht lösen. „Genauso wichtig ist die zivilgesellschaftliche Ebene, und da steht Medienbildung im Vordergrund“, sagt Schulz-Tomančok. „Das betrifft alle Generationen, nicht nur die Jüngsten.“

Die Antwort auf den Aufstieg der KI sieht der Wissenschaftler nicht im Rückzug aus der digitalen Welt, sondern in einem anderen Umgang mit ihr. „Wir brauchen ein durchgängiges Konzept, das KI in jeder Altersstufe und in jedem Fach mitdenkt.“ Sein Ausblick: „Die zukünftigen Generationen werden Desinformation nicht auf dem Schlachtfeld bekämpfen, sondern am Computer. Das muss die Politik endlich ernst nehmen.“