Künstliche Intelligenz: Technikfolgenabschätzung in Österreichischen KI-Startups

Machbarkeitsstudie zur Erstellung eines Self-assessment Tools für die Identifizierung von gesellschaftlichen, rechtlichen und ethischen Risiken für KI-Unternehmen.


Welche Folgen hat der Einsatz neuer Technologien wie Algorithmen und Künstlicher Intelligenz für Gesellschaft und Unternehmen? Zahlreiche Österreichische Startups entwickeln Technologien und Produkte, die auf Methoden der Künstlichen Intelligenz basieren. Ihnen fehlen aber oft das Know-How und die Methoden um die Folgen der entwickelten Technologien abzuschätzen. Dadurch ergeben sich Risiken sowohl für die Gesellschaft als auch für das Startup selbst. Das Ziel dieses Sondierungsprojekts ist es daher, die grundsätzliche Machbarkeit der Technikfolgenabschätzung für österreichische KI-Startups zu erheben und einen Prototyp für ein Self-Asessment-Tool zu entwickeln.

Österreichische KI-Startups entwickeln innovative Technologien und hoch skalierbare Geschäftsmodelle. Das kann große Auswirkungen auf die Gesellschaft und Unternehmen haben. Gleichzeitig steigt das gesellschaftliche Bewusstsein für ethische Aspekte von Produkten und Dienstleistungen. Somit hängt der Erfolg der Unternehmen auch wesentlich vom Vertrauen der externe Stakeholder wie zum Beispiel Kund*innen, Investor*innen, Fördergeber*innen oder zukünftiger Mitarbeiter*innen ab. Gerät ein KI-Startup zum Beispiel aufgrund eines unbeabsichtigten und nicht antizipierten Gender-Bias in den verwendeten Daten und Berechnungen in die Medien, so haftet ihm ein Makel an, der sich langfristig negativ auf die Beziehungen zu den Stakeholdern auswirkt.

 

Projektbeschreibung

Technische Systeme, die auf den Methoden künstlicher Intelligenz beruhen, haben in den letzten Jahren enorm an Bedeutung zugenommen. Groß angelegte Förderprogramme für die Entwicklung Künstlicher Intelligenz weisen auf einen Bedeutungszuwachs in Europa hin. Gleichzeitig legen die EU sowie nationale Regierungen den Fokus auf Themen wie 'vertrauenswürdige' KI, verantwortungsvolle Forschung und Innovation oder die ethischen Folgen von KI sowie die Veröffentlichung von KI Guidelines mit dem Ziel KI Systeme zu entwickeln die dem Gemeinwohl dienen.

Es gibt bereits zahlreiche Methoden die es ermöglichen die Folgen von Technologien systematisch zu erheben. Durch die dynamische Unternehmensentwicklung, die hohe Skalierbarkeit und den geringen Ressourcenspielraum im KI-Bereich müssen allerdings neue Methoden gefunden werden, die die Unternehmenskultur und sehr spezielle Organisationsform dieses Bereichs berücksichtigen. Das Ziel dieses Sondierungsprojekts ist es, die grundsätzliche Machbarkeit der Technikfolgenabschätzung für österreichische KI-Startups zu erheben und einen Prototyp eines Self-Asessment-Tools zu entwickeln. Eine möglichst breite Einführung eines solchen Tools soll den KI-Startups ermöglichen, ihre Risikofelder in gesellschaftlichen, rechtlichen und ethischen Fragen zu identifizieren und präventiv zu antizipieren. Diese Maßnahmen wirken vertrauensbildend und stabilisieren die Beziehungen zu allen Stakeholdern. Dies trägt auch zur Sensibilisierung der österreichischen KI-Startup-Szene für mögliche Folgen und Risiken bei.

Technikfolgenabschätzung befasst sich hauptsächlich mit gesellschaftlichen, politischen und wirtschaftlichen Folgen der Technologieentwicklung über der Firmenebene hinaus. In der Praxis ist es oft schwer oder gar unmöglich aus den bisher vorliegenden Guidelines konkrete Handlungen auf der Unternehmenseben abzuleiten, weil diese typischerweise auf der Ebene eines Sektors oder einer Technologie, aber nicht auf einzelne Unternehmen, Produkte und Dienstleistungen, angesiedelt sind. Dieser Herausforderung des Perspektivenwechsels stellt sich das vorliegende Projekt.