Jaro Krieger-Lamina

Bislang wurden Dienste auf Basis moderner Informationstechnologie (IT) innerhalb der Verwaltung, wie Cloudcomputing, Automatisierung und Künstliche Intelligenz, hauptsächlich aus den Blickwinkeln der technischen Machbarkeit, der BenutzerInnenfreundlichkeit und der wirtschaftlichen Effizienz betrachtet. Die Perspektive der staatlichen Souveränität, also der digitale Souveränität, steht noch aus. Dieser Artikel ist ein erster Versuch, die zahlreichen Folgen der IT für unser Verständnis der Rolle des Staates im Allgemeinen, der Plattform-Souveränität und der staatlichen Rolle als Regulator, Dienstleistungsanbieter und Käufer solcher Technologien zu überblicken. Darüber hinaus werden die gesellschaftlichen Folgen und Risiken der digitalen Technologien für politische und administrative Funktionen dargestellt und diskutiert. Die Autoren kommen zum Schluss, dass die Souveränität des Staates im digitalen Zeitalter unter großem Druck steht, sie stellen die entscheidenden Fragen, die in der Folge näher untersucht werden sollten und machen Vorschläge, wie die Gesellschaft mit dieser Herausforderung umgehen könnte.

SmartResponse – Szenarien für Smart Response in Österreich

Vollständige Liste der AutorInnen:
Andreas Schiffleitner, KERP Research GmbH
Marek Stachura , KERP Research GmbH
Marcus Meisel, TU Wien
Thomas Leber, TU Wien
Friederich Kupzog, TU Wien
Michael Ornetzeder, Ö. Akademie der Wissenschaften – ITA
Petra Wächter, Ö. Akademie der Wissenschaften – ITA
Jaro Sterbik-Lamina, Ö. Akademie der Wissenschaften – ITA


Automatisiertes Lastmanagement (engl. Automated Demand Response) hat das Potential, sich zu einer Schlüsseltechnologie für das Einhalten der Leistungsbalance von Verbrauch und Erzeugung in Energiesystemen mit einer hohen Dichte an erneuerbaren Erzeugung zu entwickeln. Dieses Projekt analysiert das Problem fehlender Umsetzungen in Österreich durch eine interdisziplinäre Betrachtung des Phänomens „Lastmanagement“ hinsichtlich technischer, sozialer, ökonomischer und ökologischer Aspekte. Weiters sollen Empfehlungen für zukünftige Rahmenbedingungen aus dieser Analyse resultieren, die es erst ermöglichen Lastmanagement von smarten Stromnetzen effizient zu betreiben.
Dieses Paper beschreibt in einem Strategie-Kit wichtige Arbeiten im Zusammenhang mit Demand Response. Aspekte und Strategien der einzelnen Szenarien werden in den folgenden Abschnitten beschrieben.

In den letzten Jahren ist ein Boom in der Verbreitung von Sprachassistenten zu bemerken. Sie sollen ein breites Anwendungsspektrum, vom Musik Abspielen bis zum persönlichen Assistenten, der Termine verwaltet und daran erinnert, abdecken. Die derzeitige Generation ist jedoch noch nicht so weit entwickelt, dass komplexe Interaktionen möglich sind, weshalb die Geräte derzeit vor allem für einfache Aufgaben eingesetzt werden. Die bevorzugten Anwendungen sind derzeit das Streamen von Musik, die Frage nach dem aktuellen Wetter und der Einsatz in Teilbereichen der Heimautomation, in so genannten Smart Home Anwendungen. Dennoch ist abzusehen, dass die digitalen Sprachassistenten nur ein erster Schritt zu Realisierung einer Vision umfassender, ubiquitärer digitaler Assistenten sind, auf die man von möglichst überall über die verschiedensten Medien und Kanäle zugreifen können soll. Die Spracheingabe wird damit als neue Schnittstelle zur Interaktion mit digitalen Systemen einem breiten Publikum nahegebracht und dürfte in vielen Bereichen die Eingabe über berührungssensitive Bildschirme oder die Tastatur ablösen. Dies wird als Vereinfachung der Interaktion und Steigerung der Bequemlichkeit angesehen. Weiters wird dadurch für bestimmte Personengruppen, wie Blinde oder Personen mit eingeschränkter Feinmotorik, ein barrierefreier Zugang zur digitalen Welt, und so eine bessere Teilhabe an einer zunehmend digitalen Gesellschaft ermöglicht. Die Assistenten tragen derzeit Namen wie Alexa, Cortana oder Siri, die zur persönlichen Identifikation mit den Systemen einladen. Nur Google tanzt mit der schlichten Bezeichnung Google Assistant etwas aus der Reihe. Viele dieser digitalen Sprachassistenten sind für bestimmte Endgeräte zugeschnitten und darauf optimiert. Wesentlich für die Nützlichkeit sind insbesondere die hinter den verschiedenen digitalen Assistenten stehenden Plattformen und deren Schwerpunkte. Aus der Perspektive von KonsumentInnen stellt sich neben der konkreten Nützlichkeit vor allem die Frage nach der Datensicherheit und dem Datenschutz. Da für die Beurteilung des Inhalts der Spracheingaben die digitalisierte Sprache alleine oft nicht ausreicht, werden neben der aktuellen Spracheingabe eine Vielzahl weiterer Informationen wie z. B. frühere Anfragen, Käufe, Zeitpunkt oder Standorte für das Sprachverständnis verwendet. Damit entstehen umfassende Persönlichkeitsprofile, die sehr eng mit dem konkreten Verhalten von KonsumentInnen verbunden sind. Heute führen die Sprachassistenten die Spracherkennung grundsätzlich auf den Servern der Anbieter durch. Dazu werden Sprachaufnahmen an die Server geschickt und meist auch dort gespeichert. Diese Spracherkennung in der Cloud verschafft den Anbietern sehr umfassend Daten. Eine datenschutzfreundlichere Spracherkennung direkt auf dem Gerät wird aktuell bei keinem Anbieter unterstützt. Sprachassistenten in smarten Lautsprechern können mittlerweile nicht nur die menschliche Stimme, sondern auch Geräusche erkennen. Ihre latente Aufnahmebereitschaft macht sie deshalb auch attraktiv für Anwendungen wie Alarmanlagen, die eine permanente Überwachung ihrer Umgebung durchführen. Durch die Plattform-Ökonomie könnte es zu Datenmonopolen und neuen Gatekeepern zwischen Verkäufern und KonsumentInnen kommen. Die Attraktivität von Plattformen steigt meist mit ihrer Verbreitung. Größere Plattformen sind wirtschaftlich attraktiver, wodurch sich die Marktkonzentration auf wenige Anbieter mit Quasi-Monopolen beschränken könnte. Dies erhöht die Wahrscheinlichkeit für Missbrauch der mächtigen Position als Gatekeeper zur Online-Welt. Welche Waren werden angeboten? Welche Informationsdienste bevorzugt? Wer entscheidet, welches Bild der Welt vermittelt wird? Diese Fragen sind sowohl individuell konsumentenpolitisch als auch für die Gesellschaft, die Demokratie von großer Bedeutung. Weitgehend unklar sind derzeit noch die langfristigen kulturellen und sozialen Auswirkungen der zunehmenden direkten Kommunikation mit Systemen, den immer verfügbaren Assistenten. Die digitalen Sprachassistenten sind ein sichtbarer Ausdruck des fortschreitenden Einsatzes Künstlicher Intelligenz. In diesem Zusammenhang wird verstärkt zu diskutieren sein, welche Grenzen wir fortgeschrittener KI setzen wollen. Was wollen wir an Maschinen delegieren, und was wollen wir nie von Maschinen entschieden haben? Grundlegende Aspekte einer Ethik für KI betonen vor allem die Würde des Menschen als zentralen Wert und daraus abgeleitet Anforderungen wie menschliche Entscheidungshoheit, Transparenz, technische Robustheit/Sicherheit, Datenschutz, Vielfalt und verantwortungsvolle Systemgestaltung.

Co-Authors: Johann Čas, Leo Capari, and Jaro Krieger-Lamina (ITA)

Full List of Authors:
Linda Nierling, Maria João Maia, Leonhard Hennen and Gregor Wolbring (ITAS/KIT)
Tanja Bratan and Piret Kukk (Fraunhofer ISI)
Johann Čas, Leo Capari, and Jaro Krieger-Lamina (ITA)
Emilio Mordini (RT)

Full List of Authors:
Linda Nierling, Maria João Maia, Leonhard Hennen and Gregor Wolbring (ITAS/KIT)
Tanja Bratan and Piret Kukk (Fraunhofer ISI)
Johann Čas, Leo Capari, and Jaro Krieger-Lamina (ITA)
Emilio Mordini (RT)

Full List of Authors:
Linda Nierling, Maria João Maia, Leonhard Hennen and Gregor Wolbring (ITAS/KIT)
Tanja Bratan and Piret Kukk (Fraunhofer ISI)
Johann Čas, Leo Capari, and Jaro Krieger-Lamina (ITA)
Emilio Mordini (RT)

Co-authors (member of the project team): Linda Nierling, Maria João Maia, Leonhard Hennen and Gregor Wolbring (ITAS/KIT), Tanja Bratan and Piret Kukk (Fraunhofer ISI), Johann Čas, Leo Capari and Jaro Krieger-Lamina (ITA), as well as Emilio Mordini (RT).
Abstract:
Assistive technologies (ATs) are designed to improve the functional capabilities of people with disabilities. Some are relatively low-tech and very familiar, such as such as reading glasses, crutches and hearing aids. Others are more advanced, using cutting-edge science and technology, with future ATs under development that could have a huge impact on all our lives.
The focus in this study is on ATs for three specific disabilities: blindness and visual impairments, deafness and hearing impairments, and autism spectrum disorders. These three disabilities exhibit both similarities and differences in terms of their implications for ATs. A description of the regulatory environment, including international agreements and EU regulations regarding disabilities and technologies, is followed by four case studies on Germany, Hungary, Portugal and Sweden. The study includes a review of the ATs currently available and future ATs at various stages of development, and also a survey of people from each disability group, focusing upon their perspectives and needs with regard to ATs. This is supplemented by expert interviews and a stakeholder workshop.
Through this combination of primary and secondary research, several social, technical, ethical, demographic, regulatory, economic and environmental trends are identified. These are used to compile four explorative scenarios about the future of ATs, and to develop social, ethical and legal reflections on the role of current and future initiatives of the European Parliament.
The study finds that current and future ATs could have a positive impact, but identifies problems with one-size-fits-all approaches. Alone, ATs are insufficient to foster a more inclusive society. While waiting for future ATs, more can be done to make effective use of current ATs and implement existing regulatory frameworks. Other steps include targeting wide attitudinal and social change, encouraging co-creation of future ATs, and promoting the emergence of AT professionals.

Studie im Auftrag des Präsidiums der Österreichischen Akademie der Wissenschaften
Wien, März 2017 (überarb. Fassung v. Juni 2016)
Institut für Technikfolgen-Abschätzung
der Österreichischen Akademie der Wissenschaften
Projektleitung: Walter Peissl
Autoren: Stefan Strauß, Jaro Krieger-Lamina

Deliverable No. D3.2 of the (FP7-) Project "IRISS – Increasing Resilience in Surveillance Societies". Objective: To investigate societal effects of different surveillance practices from a multi-disciplinary social science and legal perspective.
Further authors in alphabetical order: Bellanova, Rocco; Bergersen, Stine; Bonns, Wolfgang; Burgess, J. Peter; Ceresa, Alessia; Dahm, Sebastian; Fischer, Daniel; Fonio, Chiara; Friedewald, Michael; Galdon Clavell, Gemma; Galletta, Antonella; Goos, Kerstin; Jones, Richard; Kreissl, Reinhard; Lastic, Eric; LeLeux, Charles; Neumann, Alexander; Norris, Clive; Raab, Charles; Szekely, Ivan; Vissy, Beatrix; Webster, William; Zurawski, Nils

Chapter in Deliverable No. D5 of the (FP7-) Project "IRISS – Increasing Resilience in Surveillance Societies". Parts: Mapping the legal and administrative frameworks in Austria / Locating the data controller in Austria / Submitting access requests in Austria

Deliverable No. D2.1 of the (FP7-) Project "IRISS – Increasing Resilience in Surveillance Societies". Objective: To investigate societal effects of different surveillance practices from a multi-disciplinary social science and legal perspective.
"The Social Perspective": A report presenting a review of the key features raised by the social perspectives of surveillance and democracy.

Endbericht zum ITA-Projekt A63 – Aktuelle Fragen der Geodaten-Nutzung auf mobilen Geräten (AK5)
Zwei Entwicklungen der letzten Jahre haben zu einem Problem geführt, dem bisher noch kaum Beachtung geschenkt wird: Die Analyse und Ausbeutung von Geodaten, die durch die zunehmende Ausstattung mobiler Geräte mit GPS-Sensoren ermöglicht werden, und die steigende Durchdringung des Marktes mit Smartphones, deren Funktionsumfang mit Apps erweitert werden kann.
Die heute selbstverständliche Verfügbarkeit von Geodaten sowie die genaue Zuordenbarkeit der einzelnen Geräte zu bestimmten Personen ermöglichen Werbetreibenden eine neue Dimension der Profilerstellung, die hohe Profite für die nächsten Jahre verspricht. Während NutzerInnen sich dessen bzw. der Folgen dieser Profiling-Prozesse kaum bewusst sind, und das Grundrecht auf Privatsphäre oft als vernachlässigbares Gut in Frage stellen, entledigen sich Hersteller und Service-Anbieter ihrer Verantwortung, und Datenschutzeinrichtungen sind oftmals nicht in der Lage, bestehendem Recht zur Durchsetzung zu verhelfen, was aber auf Grund der nationalen Zuständigkeiten, der unübersehbaren Menge an Apps und der hohen Dynamik in diesem Feld kaum gefordert werden kann.
Vor allem die hohe Verbreitung von Smartphones und geodatenbasierten Services unter Jugendlichen ist bedenkenswert. Während man als Kind und JugendlicheR als nicht voll geschäftsfähig gilt, scheint diese Altersgruppe in Bezug auf die Smartphonenutzung dem Streben nach Überwachung und/oder Profitmaximierung verschiedener Unternehmen hilflos überlassen zu werden. Aber auch insgesamt, über alle Altersgruppen, hat die Zahl der SmartphonebesitzerInnen so stark zugenommen, dass es hier eine sehr große Zahl Betroffener gibt.
An Hand von Apps, wie bspw. „Paper Toss“, einem einfachen Spiel, das Geodaten gar nicht benötigen würde, den Standort der AnwenderInnen aber gemeinsam mit deren eindeutiger Telefon-ID an fünf internationale Werbenetzwerke überträgt, oder „Text Plus“, einer App für Textnachrichten, die Geschlecht, Alter, Position und Telefon-ID an sieben internationale Werbenetzwerke weitergibt, oder „Best Alarm Clock Free“, das als Wecker Position und Telefon-ID an fünf Werbenetzwerke meldet, wird deutlich, dass die einzelnen Apps in manchen Fällen als Fassaden bezeichnet werden müssen, die den eigentlichen Zweck, nämlich das Datensammeln, verschleiern sollen.
Wer hätte die Ressourcen, um sich dieses Problems anzunehmen? Abgesehen von exemplarischen Musterprozessen vermutlich niemand, weil die Menge der zu überprüfenden Firmen und Anwendungen zu groß wäre. Letztendlich handelt es sich aus europäischer Sicht jedenfalls um ein Binnenmarktproblem, weil alle KonsumentInnen in Europa davon gleichermaßen nachteilig betroffen sind. Deshalb läge es wohl an der EU-Kommission, die als einzige die nötige Verhandlungsmacht haben dürfte, europäische Datenschutzstandards gegenüber den großen Hard- und Softwarefirmen durchzusetzen und von Betreibern wie Apple und Google eine Überprüfung ihrer zahlreichen Geschäftspartner zu verlangen.
In der vorliegenden Studie werden unterschiedliche Motivationen, Apps zu nutzen, ebenso beleuchtet, wie die Funktionsweise und die Konsequenzen, die sich aus der aktuellen Entwicklung ergeben. Letztendlich bleibt jedoch eine Frage unbeantwortet: Wohin entwickelt sich unsere Gesellschaft, welche Art neuer Abhängigkeitsverhältnisse entstehen in Zukunft, und wird es der/dem Einzelnen noch möglich sein, diesen Abhängigkeiten zu entgehen?
Um dieses und andere drängende Probleme in den Griff zu bekommen, wurden Empfehlungen an unterschiedliche Stakeholder entwickelt und im letzten Kapitel ausgeführt.

-> Digitisation also changes politics and the state. State sovereignty is massively challenged, especially with regard to administrative action, digital infrastructure, and democratic processes.
-> Digital sovereignty refers to the exclusive self-determination of legal entities such as states and natural persons under the conditions of digitisation.
-> In order to (re)establish digital sovereignty, it is necessary to act consistently on various levels (national and international), both in technical, organisational and regulatory terms, and not least in public discourse.

-> Devices with digital assistants and voice control, such as “smart speakers”, are becoming more widespread in households where they are potentially eavesdropping on buyers in their most private spaces.
-> The devices collect personal data and send it to the manufacturers. Non-transparent data analysis exacerbates the imbalance between suppliers and consumers.
-> In future, digital assistance systems could manage the access to the (online) world.
-> The assessment of this business model raises not only data protection issues, but also sociopolitical questions.

Digitalisierung verändert auch Politik und Staat. Die staatliche Souveränität ist massiv herausgefordert, insbesondere im Hinblick auf das Verwaltungshandeln, die digitale Infrastruktur und demokratische Prozesse.
Digitale Souveränität bezeichnet die ausschließliche Selbstbestimmung von Rechtssubjekten wie Staaten und natürlichen Personen unter den Bedingungen der Digitalisierung.
Um digitale Souveränität (wieder) herzustellen, ist konsequentes Agieren auf verschiedenen Ebenen (national und international) notwendig, sowohl in technischer und organisatorischer als auch in regulativer Hinsicht und nicht zuletzt im öffentlichen Diskurs.

-> Geräte mit digitalen Assistenten und Sprachsteuerung, wie z.B. „Smart Speaker“, verbreiten sich zunehmend in Haushalten und belauschen KäuferInnen potentiell permanent in den privatesten Räumen.
-> Die Geräte sammeln personenbezogene Daten und senden diese an die Hersteller. Durch die intransparente Datenauswertung vertieft sich das Ungleichgewicht zwischen Anbietern und KonsumentInnen.
-> Zukünftig könnten digitale Assistenzsysteme den Zugang zur (Online-)Welt regeln.
-> Die Beurteilung dieses Geschäftsmodells wirft nicht nur datenschutzrechtliche, sondern auch gesellschaftspolitische Fragen auf.

-> People with disabilities are facing numerous challenges and barriers in their everyday lives.
-> Several socio-political initiatives have been launched so far in order to actively foster the inclusion of disabled people (in areas such as education, employment and social participation).
-> Technologies can play an important role, but full inclusion may only be achieved if additional measures are also implemented.

-> Menschen mit Behinderungen sehen sich im Alltag mit zahlreichen Herausforderungen und Barrieren konfrontiert.
-> Mehrere gesellschaftspolitische Initiativen zielen darauf ab, die Inklusion von Menschen mit Behinderungen (in Bereichen wie Bildung, Beschäftigung und soziale Teilhabe) zu fördern.
-> Technologien können einen wichtigen Beitrag dazu leisten. Eine vollständige Inklusion kann jedoch nur erreicht werden, wenn auch ergänzende Maßnahmen getroffen werden.

-> Today, social and economic processes are highly dependent on different technologies and their interaction.
-> Critical infrastructures are therefore the "main artery" of the digitally networked society and their functionality is essential for the provision of services of general interest.
-> System failures due to external risk factors, errors inherent to the system or unknown weak points can seriously impair the stability of societal processes.
-> The creation of effective security measures requires above all a greater awareness of the previously underestimated problem of system dependencies.

-> Gesellschaftliche und wirtschaftliche Prozesse sind heute hochgradig von verschiedenen Technologien und deren Zusammenspiel abhängig.
-> Kritische Infrastrukturen sind damit die „Hauptschlagader“ der digital vernetzten Gesellschaft, deren Funktionsfähigkeit wesentlich für Daseinsvorsorge und Grundversorgung ist.
-> Systemausfälle durch externe Risikofaktoren, systemimmanente Fehler oder unbekannte Schwachstellen können diese Funktionsfähigkeit gravierend beeinträchtigen.
-> Die Schaffung wirksamer Sicherheitsmaßnahmen erfordert vor allem mehr Bewusstsein für die bislang unterschätzte Problematik von System-Abhängigkeiten.


-> Online-Gaming ist beliebt und weit verbreitet.
-> Ob am Smartphone, auf der Konsole oder am PC – beinahe jedes moderne Computerspiel ist vernetzt.
-> Der Datenschutz wird bisher wenig beachtet.
-> Das Verhalten in Spielen sagt viel über die 
SpielerInnen aus.
-> Regulierungen seitens der Hersteller und der Politik, sowie die Aufklärung der NutzerInnen sind notwendig.

-> Online gaming is popular; the sector is growing continuously.
-> Almost every modern video game can be played online – on a PC, console or a mobile device.
-> The way gamers behave is a source of lots of information.
-> Up until now, the topic of data protection has been neglected.
-> Governance by game producers and regulation by governments is required, as is greater awareness on the side of the consumer.

-> The vision of the autonomous vehicle promises more safety, less environmental pollution and comfortable mobility.
-> Digitisation has found its way into the car with all its advantages and disadvantages.
-> Cars are turning into data collecting, processing and transmitting machines.
-> The consequences can be felt in other domains in everyday life, not just mobility.
Authors: Jaro Krieger-Lamina, Walter Peissl

-> Die Vision vom selbstfahrenden Auto verspricht mehr Sicherheit, weniger Umweltbelastung und komfortable Mobilität.
-> Die Digitalisierung hält im Bereich der KFZ mit allen Vor- und Nachteilen Einzug.
-> Autos werden zu Daten sammelnden, verarbeitenden und weitergebenden Maschinen.
-> Die Folgen werden in vielen Lebensbereichen spürbar sein.
Autoren: Jaro Krieger-Lamina, Walter Peissl.

Eine Abschaffung des Bargelds sollte nicht nur unter ökonomischen Gesichtspunkten diskutiert werden. Der Verzicht auf Münzen und Scheine könnte ganz andere Folgen haben.

-> New surveillance technologies allow ever deeper observation of the lives of each individual.
-> Security measures are increasingly reliant upon surveillance technologies, based on the claim that more security requires infringements of fundamentalrights.
-> Citizens have more nuanced views: although the use of surveillance technologies is not rejected as such, it remains a contested issue. Therefore their utilisation should be limited categorically and strictly regulated and controlled.
-> The protection of personal data needs to be improved and ensured, also the case of security technologies. In addition, security should remain a public sector responsibility and social root causes of insecurity need to be addressed and solved.
Authors: Johann Čas, Walter Peissl, Jaro Krieger-Lamina, Stefan Strauß

-> Neue Überwachungstechnologien ermöglichen immer tiefere Einblicke in das Leben eines jeden Einzelnen von uns.
-> Sicherheitsmaßnahmen greifen mehr und mehr auf Überwachung zurück, mit dem Argument, dass ein Mehr an Sicherheit eben Eingriffe in Grundrechte erfordere.
-> BürgerInnen sehen dies differenzierter: Der Einsatz von Überwachungstechnologien wird nicht per se abgelehnt, aber kritisch gesehen und sollte daher prinzipiell begrenzt, strikt reguliert und kontrolliert werden.
-> Der Datenschutz sollte verbessert werden, auch bei Sicherheitstechnologien. Außerdem sollte Sicherheit eine öffentliche Aufgabe bleiben und die sozialen Wurzeln von Unsicherheit müssten bekämpft werden.
Autoren: Johann Čas, Walter Peissl, Jaro Krieger-Lamina, Stefan Strauß

-> In recent years, technological development has greatly enhanced the possibilities of data storage and analysis.
-> In Austria, collections of data for the purpose of calculating debt defaults are barely regulated.
-> People are categorised on the basis of statistical values and discriminated against because of this classification.
-> Errors occur time and again, and because of a lack of transparency their correction is difficult.

-> Die technische Entwicklung der letzten Jahre hat die Möglichkeiten der Datenspeicherung und -analyse stark verbessert.
-> Datensammlungen zum Zweck der Berechnung eines Zahlungsausfalls sind in Österreich weitgehend nicht reguliert.
-> Menschen werden auf Basis statistischer Werte in Gruppen eingeteilt und aufgrund dieser Einteilung diskriminiert.
-> Fehler kommen immer wieder vor, mangels Transparenz ist eine Korrektur schwierig.