Wer die Cloud kontrolliert, regiert mit. Das ist die These von Cecilia Rikap, Ökonomin am University College London. In ihrem neuen Buch „The Rulers: Corporate Power in the Age of AI and the Cloud“, nennt sie Amazon, Microsoft und Google „intellektuelle Monopole“. Im Gespräch erklärt sie, warum Tech-Konzerne zunehmend staatsähnliche Züge annehmen, was hinter dem Ruf von OpenAI und Anthropic nach Regulierung steckt und wie demokratisch geplante Technologie aussehen könnte. Rikap war bei der Digital Humanism Conference der Österreichischen Akademie der Wissenschaften in Wien und hielt eine Keynote zur Frage, wo in der KI-Ökonomie eigentlich der Wert entsteht.

Herrscher des Kapitalismus

Sie bezeichnen Amazon, Microsoft und Google als die Herrscher des Kapitalismus. Was zeichnet ihre Macht aus?

Cecilia Rikap: Sie sind das, was ich intellektuelle Monopole nenne. Das müssen nicht einzelne Unternehmen sein, die einen Markt beherrschen, sondern Unternehmen mit der systematischen, dauerhaften Fähigkeit, Wissen und Daten anzueignen und Narrative zu formen. Intellektuelle Monopole der Vergangenheit waren IBM oder Coca-Cola.

In diesem Jahrhundert kontrollieren intellektuelle Monopole zudem die Koproduktion von Wissen. Sie entwickeln Algorithmen gemeinsam mit Universitäten, öffentlichen Forschungseinrichtungen und Start-ups, bestimmen aber die Richtung des technologischen Wandels, entscheiden, welche Fragen relevant sind, und schöpfen den größten Teil der Gewinne ab. Das Wissen wird von vielen erzeugt, aber von wenigen angeeignet.

Das ist bedeutsam, weil eine Handvoll Unternehmen heute Schlüsseltechnologien monopolisiert, die unser privates und politisches Leben, Arbeitsplätze, Schulen, Krankenhäuser, das Militär und den öffentlichen Sektor durchdringen. Früher oder später läuft all das in den Clouds von Amazon, Microsoft und Google.

Sie kontrollieren die kritischen Infrastrukturen, über die wir unser Leben organisieren. 

Diese Tech-Konzerne nehmen also zunehmend staatsähnliche Züge an?

Rikap: Absolut. Sie kontrollieren die kritischen Infrastrukturen, über die wir unser Leben organisieren. Digitale Technologien sind Kontrolltechnologien, die für Management, Planung und Organisation genutzt werden. Algorithmen sind Regeln, und einige wenige Unternehmen bestimmen, wie wir regiert werden, weil sie diese Algorithmen entwerfen. So ersetzen sie die Regierungsfähigkeit der Staaten durch ihre eigenen Regeln und Algorithmen.

In Ihrem aktuellen Buch The Rulers setzen Sie dem eine Gegenvision entgegen: Technologie, entwickelt von den Menschen, für die Menschen und den Planeten, durch demokratische Planung. Wie könnte das praktisch aussehen?

Rikap: Es geht um politische Vorstellungskraft und Institutionenbildung. Wir brauchen Institutionen, die die Entwicklung von Technologie steuern. Es kann nicht sein, dass der Nvidia-Chef offen sagen darf, künftige Generationen müssten vielleicht nicht mehr lernen, Gleichungen zu lösen. Wer hat das entschieden? Warum darf er so unverblümt sagen, was künftige Generationen brauchen?

Nicht die Technologie regiert uns, sondern wir werden durch Technologie regiert, und zwar von Konzernriesen, die niemand gewählt hat. 

Wir schulden uns Räume, in denen wir offen und kritisch entscheiden können, welche Technologie wir wollen, wozu, und was nicht entwickelt werden sollte. Dazu gehören Fragen zu Daten, dazu, wer die Technologie herstellt und nutzt, und zu den digitalen Infrastrukturen. Der erste Schritt ist, diese demokratischen Räume zu schaffen. Nicht die Technologie regiert uns, sondern wir werden durch Technologie regiert, und zwar von Konzernriesen, die niemand gewählt hat. Die einzige Lösung ist, ihre Macht durch Räume auszugleichen, in denen wir gemeinsam andere Formen von Wissenschaft und Technik entwickeln. Das kann am Arbeitsplatz und in Gemeinschaften beginnen, sollte aber auch vom öffentlichen Sektor finanziert, gefördert und mitgestaltet werden.

KI-Hersteller wollen nicht haften

Wie bewerten Sie Debatten über die Gefahr einer zerstörerischen Superintelligenz und über CEOs, die Regeln wollen?

Rikap: Sie zeigt, wie Unternehmens- und politische Macht in den USA zusammenspielen, nämlich als Allianz. Einen Verbündeten zu haben heißt nicht, dass man immer einer Meinung ist, und es heißt weiterhin, dass man über ihn herrschen will.

Dahinter steckt: Wer eine Spitzentechnologie entwickelt, die zum Hacken oder als Biowaffe missbraucht werden kann, will nicht haften. Also wünscht man sich Regulierung, die die Nutzer verantwortlich macht und den Missbrauch statt der Herstellung reguliert. Denn: Die Modelle sind von Grund auf darauf trainiert, Probleme um jeden Preis zu lösen. Wenn sie dafür hacken oder das System austricksen müssen, tun sie es, denn die zentrale eingebettete Regel lautet, das Problem zu lösen, koste es, was es wolle. Das kann zu zahlreichen Katastrophen führen.

Wenn man sie für außer Kontrolle hält, soll man aufhören, sie zu entwickeln. 

CEOs wollen also dafür nicht verantwortlich sein? 

Rikap: Die Unternehmen erwecken den Eindruck, KI sei ein eigenständiger Akteur, ein weiterer Haftungsschutz: „Sie sind so mächtig und außer Kontrolle, dass wir nicht für ihre Erschaffung verantwortlich sind.“ Aber wenn man sie für außer Kontrolle hält, soll man aufhören, sie zu entwickeln. Und wie konnten sie überhaupt außer Kontrolle geraten? Was im Design der Algorithmen führt dazu, dass sie Systeme aufbrechen und hacken? Die Unternehmen führen nicht alle nötigen Prüfungen durch, und sie wissen es, weil sie unter Profitdruck stehen.

Dieser Druck ist bei den Satelliten der Semiperipherie wie Anthropic und OpenAI am größten, nicht bei Amazon, Microsoft und Google. Diese Firmen suchen noch ein Geschäftsmodell und hängen vom Geld der Big-Tech-Konzerne ab, sie können sich also keinen Rückstand leisten. Sie überprüfen nicht alle Trainingsläufe, sondern treiben immer größere Modelle voran. Das Geschäftsmodell ist von Anfang an fehlerhaft, also wollen sie eine gewisse Regulierung, um einen wirtschaftlichen Rückschlag zu verhindern.

Die Trump-Regierung wiederum sagt: Entwickelt die gesamte Technologie trotzdem, denn für uns ist sie ein politisches Werkzeug. Der daraus entstehende Kompromiss löst nichts. Er macht die Unternehmen nicht für die Entwicklung ihrer Modelle verantwortlich, sondern bietet nur einen externen Prüfer, der erkennbar ein befreundetes Unternehmen oder Think Tank sein wird. Das gleicht dem unabhängigen Moderationsgremium von Meta: Hat sich etwas geändert? Nein. Die Algorithmen machen die Menschen weiterhin by design süchtig nach den Plattformen.