Die Warnungen vor existenziellen KI-Risiken häufen sich: Sam Altman, Chef von OpenAI, Dario Amodei, Chef von Anthropic, und Elon Musk, Tesla-Chef und Gründer des KI-Unternehmens xAI, plädierten sogar für ein Einbremsen der Entwicklung. Auch die Informatiker Geoffrey Hinton, ehemals Google, und Yoshua Bengio von der Université de Montréal, beide als „KI-Väter" bekannt, fürchten die Folgen unkontrollierter Automatisierung und drängen die Politik zum Handeln. Gebaut werden KI-Modelle trotzdem weiterhin. 

Und als im September bei der UNO über KI-Regeln verhandelt wurde, saßen ausgerechnet jene Konzerne prominent mit am Tisch, die diese Regeln betreffen würden. Wir haben Forschende des Instituts für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ÖAW) – die Sozialwissenschaftlerin Astrid Mager, den Wirtschaftsinformatiker Stefan Strauß und Institutsdirektor Michael Nentwich – gefragt: Wie nehmen sie die aktuelle Debatte wahr? Für sie steht fest: Eine gesamtgesellschaftliche Debatte über die Gefahren der KI ist begrüßenswert. Aber der Blick auf die Maschine, die uns vernichtet, verstelle den Blick auf das, was schon jetzt passiert.

Gerät die öffentliche Verwaltung unter KI-Kontrolle?

„Wir begreifen Technologie als soziotechnisches System“, sagt Astrid Mager. Das heißt: Menschen machen die Technologie, und Menschen können sie auch ändern. Mager plädiert für Genauigkeit: Nicht jedes System sei gleich riskant. Große Sprachmodelle und agentische KI, die selbstständig Schritte plant und Werkzeuge nutzt, sind kurzfristig kaum regulierbar. Sie würden sich stark von medizinischen Anwendungen zur Hautkrebserkennung mit kleineren Datensätzen unterscheiden. Bei den großen Systemen sieht sie reale Gefahren vor allem im Missbrauch, etwa beim Aufspüren von Sicherheitslücken oder der Desinformation durch koordinierte Bot-Netzwerke.

„Die Gefahr geht vor allem von Big-Tech-Firmen und weniger von der Technologie selbst aus. Es sind die Besitzverhältnisse und die geopolitischen Entwicklungen, über die wir diskutieren müssen.“ Der Blick in die ferne Zukunft lenke davon ab. Es ist müßig, „darüber zu reden, ob wir in zehn Jahren zu zehn Prozent ausgestorben sind“, sagt Mager, eine Anspielung auf Wahrscheinlichkeitsschätzungen, wie sie manche KI-Forscher für ein Aussterbeszenario nennen.

In dem abgeschlossenen Projekt „Automating Welfare“ untersuchte Mager, gemeinsam mit internationalen Kolleg:innen, den Einfluss von KI auf die öffentliche Verwaltung in acht europäischen Ländern. Ihr Befund: Je mehr Betrugserkennungssoftware ausgerollt werde, desto mehr kippe der Sozialstaat vom Fürsorgeprinzip in Richtung Kontrolle. Zudem arbeiteten die Systeme zwangsläufig mit Daten aus der Vergangenheit, um daraus die Zukunft zu projizieren. Die Verantwortung dürfe daher nicht bei einzelnen Sachbearbeiterinnen und dem „Human in the Loop“ abgeladen werden, sondern liege bei der Institution.

Die aktuellen Rufe nach einer Verlangsamung der KI-Entwicklung seien zudem von Doppelmoral geprägt: Wenn Koordination zwischen den Firmen gefordert werde, sei meist nur die US-Industrie gemeint, während die Konkurrenz aus China ausgebremst werden solle. Die Chip-Beschränkungen hätten dort sogar ressourcenschonendere Systeme befördert. Und selbst wenn man Kontrolle wolle, bleibe offen: „Wer wird diese externe unabhängige Kontrolle durchführen? Wer hat das Know-how überhaupt dazu? Welcher Zugang wird gewährt?“

Apokalypse als Verkaufsargument

Ähnlich sieht das Stefan Strauß. Debatten über „Superintelligenz“ und AGI – eine hypothetische KI, die jede intellektuelle Aufgabe versteht, die ein Mensch ausführen kann – nennt der Wirtschaftsinformatiker aus wissenschaftlicher Sicht unseriös. Sie bedienten mediale Aufregungslogiken und lenkten von dem ab, was heute schon problematisch sei: der Machtkonzentration bei wenigen Anbietern, wachsenden Abhängigkeiten und fehlenden Mindeststandards.

Das nütze den Konzernen, denn sie definierten so die Spielregeln einer möglichen Regulierung selbst. Zumal sind Börsengänge von Anthropic und OpenAI geplant. Die Weltuntergangserzählung habe also auch einen Marktwert. Entsprechend kritisch sieht Strauß, dass Industrievertreter von OpenAI und Anthropic Mitte September „sehr prominent und medienwirksam“ auf UN-Ebene Politik betrieben. Das solle man nicht als selbstverständlich hinnehmen, denn es liege der Eindruck nahe, dass hier möglichst viele Eigeninteressen in die Regulierungsdebatte eingebracht werden. International anerkannte Standards hält er dennoch für möglich. Wie wirksam sie wären, ist jedoch eine andere Frage.

Wichtiger wäre aus seiner Sicht, KI-Unternehmen global stärker in die Verantwortung zu nehmen. „Stellen wir uns vor, Autos würden ohne jeden Sicherheitsstandard mit der gleichen Logik auf den Markt kommen wie KI-Systeme. Das wäre völlig undenkbar.“ Bei KI aber ist der Einsatz unreifer Anwendungen derzeit Status quo, praktisch als Betatest in der realen Welt, offenbar ohne Konsequenzen. Das eigentliche Versäumnis liegt demnach nicht in einer fernen Zukunft, sondern im Heute. Was sich jetzt schon tun lässt? Die Wirkung des AI-Acts „nicht immer weiter aufzuschieben, sondern wirksam umzusetzen“, einschließlich KI-Aufsichtsbehörden und Mindeststandards.

Europa als Gegengewicht

Die Machtkonzentration im KI-Sektor erhalte „in der einschlägigen Forschung bereits die gebührende Aufmerksamkeit“, sagt ÖAW-Institutsdirektor Michael Nentwich. Und auch die Politik greife sie unter dem Stichwort „Digitale Souveränität“ auf. Wie Mager und Strauß sieht er das aktuelle Problem in der Kombination aus der weltweiten Dominanz dieser Firmen und politischen Drohungen mit extremen Handelssanktionen gegen Staaten, die Konzernmacht auf ihrem Territorium begrenzen wollen.

Was lässt sich tun? Nentwich verweist auf Handlungsspielräume jenseits des Konzernangebots: kleinere Anbieter, KI-freie Lösungen, ein gestärktes Europa. Auf Dauer brauche es aber vor allem Letzteres, denn nur der große europäische Staatenverbund habe die Chance, wirksam zu regulieren und eine souveräne KI-Infrastruktur aufzubauen. Jeder einzelne Staat solle deshalb die EU in diesem Feld stärken. Ob dafür die Zeit und der politische Wille reichen, bleibt dabei offen. Die Frage ist also weniger, ob und wann KI zum zerstörerischen Tausendsassa werden wird. Die Frage ist vielmehr, wer heute die Regeln schreibt, nach denen KI gebaut, verkauft und eingesetzt wird, so die Forscher:innen.