Das ITA-Team setzt Künstliche Intelligenz (KI) verantwortungsvoll und transparent ein. Wir erachten KI als Werkzeug, das uns in allen Aspekten der Technikfolgenabschätzung unterstützt, jedoch diese nicht ersetzen kann. Wir übernehmen im Sinne guter wissenschaftlicher Praxis weiterhin die volle Verantwortung für die Qualität unserer Ergebnisse und Berichte. Die Adressat:innen unserer Forschung in Gesellschaft und Politik können sich darauf verlassen, dass wir nicht nur gesetzeskonform, sondern auch in vielfältiger Hinsicht reflektiert mit dem KI-Einsatz umgehen und weiterhin Menschen die Urheber:innen der ITA-Technikfolgenabschätzungen sind.
Folgende acht KI-bezogene Richtlinien leiten unsere Arbeit:
Im Detail bedeuten diese acht Punkte:
1. Gesetzes- und Regelkonformität
Wir befolgen beim Einsatz von KI-Tools alle gesetzlichen, von der ÖAW sowie von spezifischen Auftraggebern oder Verlagen vorgegebenen Regeln sowie die Regeln guter wissenschaftlicher Praxis, sowohl allgemein als auch im spezifischen (disziplinären/methodischen) Einsatzbereich.
Wir nutzen ausschließlich KI-Tools, die gesetzeskonform und, soweit nachvollziehbar, technisch sicher sind. Wir bevorzugen KI-Tools, die von, in und für die akademische Gemeinschaft entwickelt wurden, über Open-Source-Modelle verfügbar sind und/oder lokal gehostet werden können.
2. Qualitätskontrolle
Der Einsatz von KI-Tools am ITA wird reflektiert, verantwortungsvoll und bis auf Weiteres nur mit aktiver, begleitender Qualitätskontrolle erfolgen: Das heißt, wir überprüfen stets, was die KI-Tools liefern, und stellen sicher, dass wir über das erforderliche Wissen für die sorgfältige Dateneingabe sowie die Auswertung der Ergebnisse verfügen. Wir bleiben für die wissenschaftliche Qualität und die gesellschaftliche Robustheit unserer Arbeit verantwortlich.
3. Kritischer Zugang
Wir sind uns bewusst, dass KI derzeit keine zuverlässige Technologie ist. Ergebnisse von KI-Tools können fehlerhaft und irreführend sein (z. B. Halluzinationen, Algorithmic Bias). Zudem können die zugrunde liegenden Quellen sachliche Ungenauigkeiten enthalten und unter Umständen zu ungerechtfertigten Verzerrungen (Bias) führen. Weiters gehen wir davon aus, dass bei unseren Recherchen zunehmend auch Dokumente gefunden werden, die selbst von KI-Tools erstellt wurden. Soweit überprüfbar, wird der Quellenbezug (Existenz, Qualität und Repräsentativität der Quellen) daher stets reflektiert. KI-generierte Ergebnisse werden entsprechend den Prinzipien guter wissenschaftlicher Praxis grundsätzlich nur geprüft übernommen.
4. Menschen zuerst
Wir setzen KI nicht als Ersatz für Dialog, interne Beratung und kreatives Denken ein. Wir sind weiterhin unsere besten Sparringpartner:innen. Wir nutzen die multi- und interdisziplinäre Expertise des Instituts für Kreativität, Datenerhebung und Qualitätssicherung. Wir übertragen keine Aufgaben vollständig an KI-Tools; menschliche Intelligenz und direkte soziale Interaktion spielen weiterhin überall die entscheidende Rolle.
5. Sparsamer KI-Einsatz
Aufgrund der negativen umweltrelevanten und sozialen Auswirkungen der aktuellen KI-Infrastruktur setzen wir KI-Tools nur gezielt, unterstützend und sparsam ein. KI-Tools dienen uns nicht als Ersatz für ebenso effiziente, ressourcenschonendere und sozial verträglichere traditionelle Methoden. Wir setzen KI-Tools nur ein, wenn sie den auszuführenden Prozess tatsächlich unterstützen und einen maßgeblichen positiven Beitrag zur Ergebnisqualität leisten.
6. Transparenz
Wir geben intern und extern im Voraus an, wann und zu welchem Zweck wir KI-Tools einsetzen bzw. eingesetzt haben. Dabei unterscheiden wir zwischen häufig eingesetzten Tools und spezifischen Anwendungen zur Erstellung von Inhalten. Erstere werden auf der ITA-Website exemplarisch aufgeführt, Zweitere werden im jeweiligen Bericht explizit an entsprechender Stelle genannt. Darüber hinaus fordern wir diese Transparenz auch von unseren Kooperationspartner:innen und Ko-Autor:innen ein.
7. Lernprozess und kontinuierliche Evaluierung
Wir reflektieren kontinuierlich über die neuesten Entwicklungen bei KI-Tools und deren Einsatzmöglichkeiten, beteiligen uns an den entsprechenden Debatten in unserer internationalen Community und passen gegebenenfalls unseren Umgang mit KI an. Da KI auch Gegenstand unserer Forschung ist, fließen die in den verschiedenen Anwendungskontexten gewonnenen Erkenntnisse in unsere kontinuierliche Reflexion und Praxisanpassung in der TA ein.
8. Besonderheiten der Gesellschafts- und Politikberatung
Damit TA-Ergebnisse gesellschaftlich robust sind, ist es notwendig, beim KI-Einsatz Formulierungen (Wording) kontinuierlich kritisch zu reflektieren, um KI-generierte Sprache, Framing und Bias nicht unreflektiert zu übernehmen. Ebenso sind wir bei der Auswahl von Themen und Issues, die durch KI-gestützte Verfahren vorgeschlagen werden, achtsam, da auch diese einem Bias unterliegen kann.
