Künstliche Intelligenz (KI) ist eine der vielversprechendsten Technologieentwicklungen der Gegenwart. Das hat dazu geführt, dass auch die Zahl der Start-ups, in denen KI eine wichtige Rolle spielt, gestiegen ist. Da es noch kaum Erfahrungen mit dem Einsatz von maschinellem Lernen gibt, ist auch über die möglichen Auswirkungen auf Politik, Gesellschaft und für Start-ups selber noch wenig bekannt. Das kann gerade für junge Unternehmen, die auf KI setzen, zum Risiko werden. Deshalb sucht das Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ÖAW) in einem neuen Projekt, das der FFG unterstützt wird, nach Methoden, um die Auswirkungen von KI in Start-ups besser einschätzbar zu machen.
Self-Assessment Tool
“Unser Ziel ist es, die Machbarkeit der Entwicklung eines Self-Assessment Tools zu testen. Damit sollen KI-Startups die Möglichkeit bekommen, soziale, wirtschaftliche, politische, rechtliche und ethische Auswirkungen von neuen KI-Produkten zu identifizieren und Risiken zu antizipieren”, sagt Tanja Sinozic, die das Projekt leitet.
Mit an Bord im Projekt ist auch das Start-up Prewave, das sich auf die Analyse und Vorhersage von Lieferkettenengpässen anhand von Daten aus sozialen Medien und klassischen Medien spezialisiert hat. “Es gibt Interesse an solchen Tools unter den KI-Start-ups. Um gute Mitarbeiter/innen und Fördermittel zu finden, müssen Unternehmen Verantwortung zeigen. Schnell nach vorne preschen und nicht über Konsequenzen nachzudenken reicht heute nicht mehr aus. Ein Start-up, das negativ in den Medien auffällt, kommt schnell in Schwierigkeiten. Auch die EU steht hinter dem Konzept, dass KI mit bestimmten Werten in Einklang gebracht werden muss”, sagt Sinozic.
Am Ende sollen die Unternehmen ein Werkzeug an die Hand bekommen, das mögliche Auswirkungen für die Zukunft abschätzbar macht. “Wir möchten ein Verfahren entwickeln, das für eine kleine Firma mit wenigen Ressourcen nutzbar ist. Die Ergebnisse sollten für die Firma nützlich sein, um ethische Überlegungen sichtbar zu machen, während sie mit ihrem Produkt höchst wettbewerbsfähig bleiben. Wichtig ist vor allem, dass es ein dynamisches Tool ist, das auch an das Wachstum des Unternehmens angepasst werden kann. Wir wollen an die Verantwortung der Unternehmen und eine ehrliche Selbsteinschätzung appellieren. Gleichzeitig soll das Tool dabei helfen, Unsicherheiten aufzudecken, die Merkmale aller Technologien sind”, sagt Sinozic.
Vertrauen in KI fehlt
Derzeit ist das Vertrauen in der Bevölkerung gegenüber KI-Systemen nicht sehr groß. “Das liegt zum Teil daran, dass wir die Auswirkungen von neuen Technologien, die wir nicht vollständig verstehen, fürchten. KI-Technologien können, wie allen Technologien, von denen vorhergesagt wird, dass sie transformativ werden, langfristig einen enormen Einfluss auf die Umwelt, das Sozialsystem und die Wirtschaft haben”, sagt Sinozic. Welche Start-ups das Tool am Ende nutzen werden, ist derzeit offen, denn: “Wir wollen das Tool möglichst vielfältig gestalten, damit viele KI-Start-ups in Österreich darauf zugreifen können”, sagt die Forscherin.