Die Macht der Algorithmen

Internet-Technologien merken sich unsere Interessen und Vorlieben. Was passiert aber, wenn Algorithmen und automatisierte Strukturen beeinflussen, ob wir ein Jobangebot oder einen Wohnungsvertrag bekommen sollen? Auch in der Politik werden Computermodelle bereits zur Entscheidungsfindung verwendet. Blockchain-Technologien werden die Art, wie wir Informationen erhalten und verarbeiten, als nächstes revolutionieren.

Algorithmen sind zu einer starken gesellschaftlichen Triebkraft geworden. Das österreichische Arbeitsmarktservice (AMS) testet gerade einen Algorithmus, der bei der Finanzierung von Weiterbildungsmaßnahmen behilflich sein soll. Auf Basis von Statistiken vergangener Jahre werden damit die zukünftigen Chancen von Arbeitssuchenden am Arbeitsmarkt berechnet. So will man vorwiegend in jene Jobsuchende investieren, bei denen die Fördermaßnahmen am wahrscheinlichsten zu einer Wiedereingliederung in den Arbeitsmarkt führen. Wie aber werden diese Personen ermittelt? Was, wenn eine vergangene Diskriminierung aufgrund von Geschlecht, Betreuungspflichten und Wohnort durch Algorithmen in die Zukunft fortgeschrieben und damit verfestigt wird?

Ähnliche Fragen treffen auch auf andere Technologien zu, die wir tagtäglich nutzen, wie z.B. Suchmaschinen. Die Ergebnisse, die etwa Google ausspuckt, sind alles andere als neutral:  Geschlecht und Hautfarbe spielen dabei ebenso eine Rolle wie Familienstand und Kaufverhalten. So werden Männern nachweislich bessere Jobannoncen präsentiert als Frauen. Solche inhaltlichen Verzerrungen entstehen in einem komplexen Zusammenspiel von riesigen Datensätzen – Stichwort „Big Data“ –, Algorithmen, wirtschaftlichen Interessen und sozialen Praktiken. Sie gilt es näher zu untersuchen. Das ITA führt dazu Projekte durch, die die soziale Ordnungsmacht von Algorithmen, Computermodellen und Suchmaschinen kritisch hinterfragen.

Europa in den Händen der Großen Vier


Viele der gängigen Informationstechnologien werden von großen US-amerikanischen Technologie-Konzernen wie Google, Amazon, Facebook und Apple („GAFA“) betrieben. Wir fragen daher auch, wie sich Europa in diesem IT-Wettlauf positionieren kann: Wie soll die europäische Politik global agierende Technologie-Firmen, deren Geschäftsmodelle primär auf „Datenhandel“ basieren, regulieren? Wie können alternative, gemeinwohl-orientierte Internet-Technologien und  Infrastrukturen geschaffen werden, die sich auf europäische Werte – Stichwort Privacy-by-Design – stützen? Und schließlich: Brauchen wir neue politische Gremien und Institutionen, die sich um gesellschaftspolitische und ethische Aspekte von Algorithmen und Big-Data-Anwendungen kümmern, und welche Rolle kann die EU hier einnehmen? 

Politikberatung durch Computermodellierung


Computermodelle können durch die Berücksichtigung einer Vielzahl von Faktoren Orientierungswissen zu dringenden gesellschaftlichen Fragen liefern: Wie meistern wir die bevorstehende Energiewende am kosteneffizientesten und mit dem geringsten CO2-Aufkommen? Wie wird sich eine Grippeepidemie ausbreiten und wie kann sie aufgehalten werden? Durch Big-Data-Anwendungen können so viele Daten wie noch nie zuvor in die bestehenden Computermodellierungen eingespeist werden. Dadurch erhofft man sich eine immer treffsichere Prognose der Zukunft. In Debatten über wissenschaftliche Politikberatung wird die soziale Macht von Computermodellen aber kaum tiefgehend reflektiert.

Wir untersuchen, inwiefern schon im Prozess der Modellierung bestimmte gesellschaftliche Strukturen, Ideen und Werte verfestigt werden. Ist es z.B. sinnvoll, nur nach den wirtschaftlich optimalsten Lösungen zu suchen, wenn Europa die Handelspolitik mit Afrika modelliert? Sind diese Ergebnisse eine objektive, realistische Darstellung der Welt oder werden bereits hier Werte eingebaut, ohne dass sie hinterfragt werden? Für die Politikberatung ist wesentlich, wie diese Art von Wissen vermittelt wird. Geben Computermodelle den PolitikerInnen das Gefühl, dass sie lediglich noch die errechnete ‚optimale‘ Entscheidung vollziehen müssen, oder bieten sie ihnen ausreichend Informationen, um selbst über Handlungsoptionen zu entscheiden? Das ITA fragt, welche Bedeutung diese Modelle im politischen Alltag haben.

Blockchain-Revolution


Die Blockchain verspricht Transparenz, Sicherheit und Vertrauen. Blockchain-Algorithmen ermöglichen die Entstehung von Netzwerk-basierten Datenbanken. Informationen werden unbegrenzt lange gespeichert und sind allen Mitgliedern desselben Netzwerks immer zugänglich. Ein Beispiel: Die Blockchain-Technologie wurde 2008 erstmals in der Krypto-Währung Bitcoin weit verbreitet eingesetzt. Informationen zu jeder Transaktion (z.B. Austausch von Kryptogeld) werden automatisch aufgezeichnet und verwaltet. Aber die Einsatzmöglichkeiten nahezu unbegrenzt, da in jeder Branche eine Notwendigkeit besteht, Transaktionen sicher zu erfassen. Sie verheißt so viele neue Möglichkeiten – u.a. für den internationalen Handel, die Staatsverwaltung und das Finanzwesen –, dass manche sie von ihrer Bedeutung her fast als das „nächste Internet“ bezeichnen.

Es sind jedoch Herausforderungen zu meistern, wenn diese Potenziale realisiert werden sollen. Wichtig ist bei jeder neuen, möglicherweise sogar lebensverändernden Technologie zu vermeiden, dass am Ende einige wenige private Unternehmen die absolute Kontrolle der Daten und des Marktes übernehmen und es zu einer verdeckten Monopolisierung kommt. Aus der Erfahrung mit GAFA wissen wir, dass es sehr schwierig ist, Big-Data-Unternehmen zu kontrollieren. Bei der Blockchain gibt es also wesentliche Technikfolgen zu analysieren: Welche Werte leiten die Innovationsprozesse von Blockchain-Unternehmen? Wie unterscheiden sie sich von öffentlichen Werten? Und wie können wir sicherstellen, dass Blockchain-Innovationen zum Allgemeinwohl beitragen?

Ausgewählte Projekte zum Thema Politik von Informationstechnologien


Aug 2019 - Okt 2020
Aug 2018 - Jul 2019
Jun 2018 - Mai 2020
Nov 2016 - Aug 2022
Okt 2013 - Jun 2019
Mär 2012 - Sep 2015