Ein Auto ohne Sicherheitsgurt würden wir heute nicht mehr akzeptieren. Bei Künstlicher Intelligenz tun wir genau das – und nennen es Fortschritt. Sandra Wachter, Professorin an der Universität Oxford und am Hasso-Plattner-Institut, forscht zu den rechtlichen und ethischen Folgen von KI. Am 16. Juni spricht sie bei der Viktor Kaplan-Lecture der ÖAW darüber, was auf dem Spiel steht, wenn Europa seinen Rechtsschutz im Wettbewerb opfert. Im Gespräch erklärt sie, warum das keine Aufholjagd ist – sondern Kapitulation.

 Regulierung ist dazu da, das Gute an Technologie voranzutreiben und das Schlechte aufzuhalten.

Die Tech-Industrie framed Regulierung als Hindernis für Innovation. Würden Sie dem zustimmen?

Sandra Wachter: Das ist eine sehr verkürzte Sichtweise, weil sie den Eindruck erweckt, Regulierung stehe absichtlich oder unabsichtlich der Innovation im Weg. Gesetze werden ja nicht geschrieben, um gute Dinge zu verhindern. Der Gesetzgeber möchte einen Interessenausgleich erreichen – zwischen den Interessen der Industrie, von Wettbewerbern, der Zivilgesellschaft und der allgemeinen Bevölkerung. Es geht darum, einen fairen Ausgleich zu finden. Ich würde also nicht sagen, Regulierung steht Innovation im Wege, sondern sie steht jener Innovation entgegen, die für andere schädlich sein könnte. Regulierung ist dazu da, das Gute an Technologie voranzutreiben und das Schlechte aufzuhalten.

Unklare Position der EU

Die EU war einmal stolz auf ihre Datenschutzstandards – die DSGVO und den AI Act. Jetzt werden diese aufgeweicht im sogenannten AI Omnibus, um im Wettbewerb mithalten zu können. Ist das ein Aufholen oder Kapitulation?

Wachter: Wenn ich mich zwischen diesen beiden Worten entscheiden müsste, würde ich definitiv sagen: Kapitulation. Menschenrechte und Grundrechte abzubauen, um in einem Wettrennen mithalten zu können, ist hochproblematisch. Warum haben wir die DSGVO, warum den AI Act? Um die Daten der Bürger:innen zu schützen, Algorithmen transparenter und erklärbar zu machen und Bias zu verhindern. Zu sagen, wir reduzieren den Rechtsschutz, um aufzuholen, ist für mich ein unlogischer Zusammenhang. Das Risiko ist nicht weggegangen, aber man ist bereit, es weniger zu beachten, um ein Wettrennen zu gewinnen – wofür eigentlich?

Ausbeutung und Energieverbrauch

Man sollte also technologischen Fortschritt und Grundrechte gemeinsam denken, anstatt sie gegeneinander auszuspielen?

Wachter: Richtig. Mein Lieblingsbeispiel ist die Autoindustrie. Sicherheitsgurt und Airbag sind heute Selbstverständlichkeiten, aber auch damals hat die Industrie gesagt, das schränkt die Innovation ein. Was sie eigentlich meinten: Wir müssen etwas an unserem Alltag ändern, und das stört uns. Das ist etwas ganz anderes, als zu sagen, Innovation wird aufgehalten. Ich würde argumentieren, dass diese rechtlichen Grundlagen ein Auto sicher machen müssen, die Innovation nicht einschränken, sondern verbessern. Ich würde mich heute in kein Auto ohne Sicherheitsgurt setzen wollen. Genauso muss man KI sehen. Das bedeutet, dass es Safety Features braucht und man die Technologie nicht sofort auf den Markt werfen kann, sondern zuvor kontrollieren, standardisieren, zertifizieren. Das verstehen wir bei Autos, bei Flugzeugen, bei Lebensmitteln, bei Medikamenten. Warum nicht bei KI? Wer Profit macht, kann die Kosten und Risiken nicht auf die Gesellschaft abwälzen. Das geht nicht.

Die echten Probleme bestehen hier und jetzt.

Wenn über KI-Risiken diskutiert wird, kommen oft Killer-Roboter oder Superintelligenz ins Spiel. Lenkt das von realen Problemen wie Datenschutz, Energieverbrauch oder der Ausbeutung von Clickworker:innen im globalen Süden ab?

Wachter: Ich bin durchaus Science-Fiction-Fan, aber das Vermengen von Leinwand und Politik halte ich für eine sehr gezielte, absichtliche PR-Masche, um von den eigentlichen Problemen abzulenken. Es ist ein bisschen wie Independence Day: Die große Gefahr sind nicht Klimawandel, Massenüberwachung, Massendiskriminierung oder Massenarbeitslosigkeit – sondern die Aliens, gegen die wir jetzt alle zusammenhalten müssen. Alles andere tritt in den Schatten. Ich sage bewusst „Aliens“: Die Wahrscheinlichkeit, dass KI aufwacht und uns versklavt, halte ich für ungefähr so groß wie eine echte Alien-Invasion. Darüber machen wir uns keine Sorgen. Dieser Narrativ funktioniert auf zwei Ebenen: Er lenkt ab und er verkauft die Technologie als halbgöttliches Wundermittel – was auch am Aktienmarkt einen Unterschied macht. Und aus irgendeinem Grund sind diese Narrative in den vergangenen Jahren in die Politik eingesickert und stoßen dort nicht mehr auf taube Ohren. Das halte ich für wirklich sehr problematisch, denn die echten Probleme bestehen hier und jetzt.

Karen Hao, die Autorin von „Empire of AI“, vergleicht die Situation mit einer Welt, in der alle Klimaforscherinnen für die fossile Energieindustrie arbeiteten. Wer kann noch unabhängiges Wissen über KI produzieren?

Wachter: Das kann ich nur mit Ausrufezeichen unterschreiben. Ich will überhaupt nicht sagen, dass Forscher:innen bei Big Tech keine fantastische Arbeit leisten können. Timnit Gebru und Margaret Mitchell haben bei Google gearbeitet und das ausgezeichnete Paper „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?“ Einer der ersten und wichtigsten Texte, der die Probleme generativer KI bei Klimawandel, Desinformation und Bias klar benannte. Sie wurden dafür von Google gefeuert. Um diesen intrinsischen Interessenkonflikt geht es.

Die Frage „Wo kann ich KI heute in meinen Alltag einbauen?“ ist schon der falsche Ansatz.

Gibt es Alternativen zu generativer KI, die nicht auf Ausbeutung und hohem Energieverbrauch aufbauen? Ist KI per se problematisch?

Wachter: Die Frage „Wo kann ich KI heute in meinen Alltag einbauen?“ ist schon der falsche Ansatz, weil sie voraussetzt, dass KI immer besser ist – und das stimmt nicht. Wie bei jeder Technologie muss man fragen: Welches Problem habe ich, und was brauche ich, um es zu lösen? Ich brauche keinen Taucheranzug im Supermarkt, sondern beim Tauchen. Genauso bei KI: Was ist das Problem, und kann KI – und wenn ja, welche KI – dabei helfen? Es gibt Bereiche, wo KI sehr hilfreich ist, und Bereiche, wo sie es nicht ist. Traditionelle prädiktive KI, die bestimmte Prozesse automatisiert, ist in vielen Fällen genauso zuverlässig wie große Sprachmodelle – aber mit einem Bruchteil des Umwelteinflusses. Und man darf nicht vergessen, was Menschen können, was KI gar nicht kann: Nuancen lesen, Empathie zeigen, Kontext verstehen. Gerade bei wichtigen Entscheidungen ist das entscheidend.

Werkzeuge der Zivilgesellschaft

Was sind die konkreten Hebel, die wir als Zivilgesellschaft hat, wenn Regulierung systematisch ausgehöhlt wird?

Wachter: Auf der Mikroebene geht es darum, sich mit Händen und Füßen zu wehren. Man hört oft: „AI is here to stay“. Sagt wer? Die, die sie entwickeln, wünschen sich das – aber in Wirklichkeit sind sie vom Markt abhängig, und der Markt sind wir. Wenn wir ein Produkt ablehnen oder nicht kaufen, haben sie ein Problem, nicht umgekehrt. Man muss sich fragen: Wo hilft mir KI wirklich, und wo ist sie nur eine Belastung?

Auf der Makroebene sehe ich gerade viel FOMO-Denken in der Politik – Fear of Missing Out. Man sagt: Wenn wir jetzt nicht mitlaufen, bleiben wir auf der Strecke. Aber bei was? Wo geht es hin, was ist das Ziel, und wann weiß ich, dass ich es erreicht habe? Wachstum ist kein Ziel, sondern ein Mittel zum Zweck. Politiker:innen müssen Technologie, Innovation und Grundrechte als Paket denken. Die Industrie lebt nicht auf dem Mars, sondern hier auf der Erde. Was sie tut, beeinflusst Jobs, Ausbildung, Kreditvergabe, Krankenversicherung. Man kann Innovation nicht im Vakuum denken. Volksvertreter:innen müssen die Mehrheit der Menschen vertreten – und die Mehrheit profitiert im Moment kaum von KI. Es sind einige wenige, vor allem Chip- und Cloud-Hersteller, die Geld machen.