Felix Schaber

In den letzten Jahren ist ein Boom in der Verbreitung von Sprachassistenten zu bemerken. Sie sollen ein breites Anwendungsspektrum, vom Musik Abspielen bis zum persönlichen Assistenten, der Termine verwaltet und daran erinnert, abdecken. Die derzeitige Generation ist jedoch noch nicht so weit entwickelt, dass komplexe Interaktionen möglich sind, weshalb die Geräte derzeit vor allem für einfache Aufgaben eingesetzt werden. Die bevorzugten Anwendungen sind derzeit das Streamen von Musik, die Frage nach dem aktuellen Wetter und der Einsatz in Teilbereichen der Heimautomation, in so genannten Smart Home Anwendungen. Dennoch ist abzusehen, dass die digitalen Sprachassistenten nur ein erster Schritt zu Realisierung einer Vision umfassender, ubiquitärer digitaler Assistenten sind, auf die man von möglichst überall über die verschiedensten Medien und Kanäle zugreifen können soll. Die Spracheingabe wird damit als neue Schnittstelle zur Interaktion mit digitalen Systemen einem breiten Publikum nahegebracht und dürfte in vielen Bereichen die Eingabe über berührungssensitive Bildschirme oder die Tastatur ablösen. Dies wird als Vereinfachung der Interaktion und Steigerung der Bequemlichkeit angesehen. Weiters wird dadurch für bestimmte Personengruppen, wie Blinde oder Personen mit eingeschränkter Feinmotorik, ein barrierefreier Zugang zur digitalen Welt, und so eine bessere Teilhabe an einer zunehmend digitalen Gesellschaft ermöglicht. Die Assistenten tragen derzeit Namen wie Alexa, Cortana oder Siri, die zur persönlichen Identifikation mit den Systemen einladen. Nur Google tanzt mit der schlichten Bezeichnung Google Assistant etwas aus der Reihe. Viele dieser digitalen Sprachassistenten sind für bestimmte Endgeräte zugeschnitten und darauf optimiert. Wesentlich für die Nützlichkeit sind insbesondere die hinter den verschiedenen digitalen Assistenten stehenden Plattformen und deren Schwerpunkte. Aus der Perspektive von KonsumentInnen stellt sich neben der konkreten Nützlichkeit vor allem die Frage nach der Datensicherheit und dem Datenschutz. Da für die Beurteilung des Inhalts der Spracheingaben die digitalisierte Sprache alleine oft nicht ausreicht, werden neben der aktuellen Spracheingabe eine Vielzahl weiterer Informationen wie z. B. frühere Anfragen, Käufe, Zeitpunkt oder Standorte für das Sprachverständnis verwendet. Damit entstehen umfassende Persönlichkeitsprofile, die sehr eng mit dem konkreten Verhalten von KonsumentInnen verbunden sind. Heute führen die Sprachassistenten die Spracherkennung grundsätzlich auf den Servern der Anbieter durch. Dazu werden Sprachaufnahmen an die Server geschickt und meist auch dort gespeichert. Diese Spracherkennung in der Cloud verschafft den Anbietern sehr umfassend Daten. Eine datenschutzfreundlichere Spracherkennung direkt auf dem Gerät wird aktuell bei keinem Anbieter unterstützt. Sprachassistenten in smarten Lautsprechern können mittlerweile nicht nur die menschliche Stimme, sondern auch Geräusche erkennen. Ihre latente Aufnahmebereitschaft macht sie deshalb auch attraktiv für Anwendungen wie Alarmanlagen, die eine permanente Überwachung ihrer Umgebung durchführen. Durch die Plattform-Ökonomie könnte es zu Datenmonopolen und neuen Gatekeepern zwischen Verkäufern und KonsumentInnen kommen. Die Attraktivität von Plattformen steigt meist mit ihrer Verbreitung. Größere Plattformen sind wirtschaftlich attraktiver, wodurch sich die Marktkonzentration auf wenige Anbieter mit Quasi-Monopolen beschränken könnte. Dies erhöht die Wahrscheinlichkeit für Missbrauch der mächtigen Position als Gatekeeper zur Online-Welt. Welche Waren werden angeboten? Welche Informationsdienste bevorzugt? Wer entscheidet, welches Bild der Welt vermittelt wird? Diese Fragen sind sowohl individuell konsumentenpolitisch als auch für die Gesellschaft, die Demokratie von großer Bedeutung. Weitgehend unklar sind derzeit noch die langfristigen kulturellen und sozialen Auswirkungen der zunehmenden direkten Kommunikation mit Systemen, den immer verfügbaren Assistenten. Die digitalen Sprachassistenten sind ein sichtbarer Ausdruck des fortschreitenden Einsatzes Künstlicher Intelligenz. In diesem Zusammenhang wird verstärkt zu diskutieren sein, welche Grenzen wir fortgeschrittener KI setzen wollen. Was wollen wir an Maschinen delegieren, und was wollen wir nie von Maschinen entschieden haben? Grundlegende Aspekte einer Ethik für KI betonen vor allem die Würde des Menschen als zentralen Wert und daraus abgeleitet Anforderungen wie menschliche Entscheidungshoheit, Transparenz, technische Robustheit/Sicherheit, Datenschutz, Vielfalt und verantwortungsvolle Systemgestaltung.

The present report provides an overview of the current policy context, recent developments and debates regardingrisk governance and regulations of nanotechnologies in Europe as well as the main research and innovationpriorities by European policies(H2020)and industries(European Technology Platforms). Thereport is Deliverable 1 of Work Package 5 “Governance andPolicy Outreach and Alignment” (Task 5.1 “Policy Monitoring and Alignment”)of the project GoNano and serves to ensure a strong degree of policy alignment of the project, specifically between the design of the pilot studies and relevant policy initiativesand debates.
The screening of R&D policiesand industry priorities shows that nanotechnologies are supported to improve industrial competitivenessandto tackle several societalchallenges. Two of the areas covered by GoNano, i.e. health and energy, play an important role in the H2020’ssupport for nanotechnologies.Research and innovation of nanotechnologies havealsoentailed a range of new debates and institutions to deal with the uncertainties and potential side-effects of this technology. The screeningof EU risk governancereveals that many risk and regulatory issues are still unresolvedand will likely continue to exist.Therefore, it is a key task of the pilots to avoid a technology-fix position, in which nanotechnologies are framed as the (only)solution to a range of problem and risk and regulatory issues are understood as easily manageable.Rather than presuming that complete knowledge on the impacts of nanotechnologiescan be acquired and regulatedaccordingly, the pilots should raise questions along the line of “which uncertainties and risks are we willing to take in exchange of the benefits of nanotechnologies for food, health and energy?”
In respect to the three pilot sectors, food, health and energy, the report provides the following conclusions: The envisioned applications of nanotechnology in the food industry appear rather limitedand in the short-term are related to food safety and security and food packaging. In the longer-term, nanotechnologies are expected to be used to realize functional foods. Debates on EHS issues and regulations, however,are particularly pronounced in the food sector with a range of sectoral regulations explicitly addressing nanotechnologies.
The health sector is expected to experience major advancements thanks to nanotechnology. In therapeutics nanotechnologies offer the possibility for aprecise control on the release of drugs, reduce the side effects of therapies and to maximise the personalization and efficacy of therapies. Nano-electronics are expected to contribute tomore efficient, fast and site-specific, minimally invasive diagnostic and monitoring systems. Nano-assisted regenerative medicine is targete atimprovingtissue regeneration, develop cell-based therapies and new intelligent biomaterials. Also in the health sector, a range of EHS, unresolved uncertainties and risks to human healthare debated and included in existing and new regulations.
The energy sector is expected tobenefit from nanotechnology mainly in terms of new structural and functional materials and devices, in particular for energy production (e.g. advanced photovoltaics), energy storage (batteries), and various applications for energy saving. Alarge group of applications in different sectors can be found that will allow to enhance energy efficiency, reduce energy in industrial processes, improve power distribution and miniaturize energy supply systems. So far, no specific regulations concerning nanotechnologies exist forthe energy sector.

-> Certain nanomaterials in food packaging promise longer shelf life and freshness.
-> Such materials, products, and related processes pose potential risks to the environment and health.
-> “Safe by Design” (SbD) addresses safety issues during early stages of development.
-> In future, SbD concepts must offer clear added value for users, and additionally specific research for testing and detection methods must be promoted.

-> Bestimmte Nanomaterialien in Lebensmittelverpackungen versprechen längere Haltbarkeit und Frische.
-> Solche Materialien, Produkte und damit verbundene Prozesse bergen durch mögliche Freisetzung zahlreiche Risiken für Umwelt und Gesundheit.
-> Durch „Safe-by-Design“ (SbD) können Sicherheitsfragen schon während der Entwicklung berücksichtigt werden.
-> Zukünftig müssen SbD-Konzepte einen klaren Mehrwert für AnwenderInnen bieten sowie gezielte Forschung von Test- und Nachweismethoden gefördert werden.

-> Digital tools make it possible for citizens to participate more easily in policy- and decision-making processes.
-> Numerous local, national and European experiences with the use of digital tools can help improve decision-making processes.
-> One of the most important factors for successful e-participation is a close and clear link to a concrete formal political process.
-> The numerous international experiences with e-participation processes are also highly relevant for Austria.

-> Digitale Instrumente erlauben es BürgerInnen, einfacher an Politik- und Entscheidungsprozessen teilzunehmen.
-> Zahlreiche lokale, nationale und europäische Erfahrungen mit dem Einsatz digitaler Instrumente helfen, Entscheidungsprozesse zu verbessern.
-> Einer der wichtigsten Faktoren für eine erfolgreiche e-Partizipation ist eine enge und klare Verbindung zu einem konkreten formalen politischen Prozess.
-> Die zahlreichen internationalen Erfahrungen mit e-Partizipationsprozessen sind auch für Österreich hoch relevant.

-> Devices with digital assistants and voice control, such as “smart speakers”, are becoming more widespread in households where they are potentially eavesdropping on buyers in their most private spaces.
-> The devices collect personal data and send it to the manufacturers. Non-transparent data analysis exacerbates the imbalance between suppliers and consumers.
-> In future, digital assistance systems could manage the access to the (online) world.
-> The assessment of this business model raises not only data protection issues, but also sociopolitical questions.

-> Geräte mit digitalen Assistenten und Sprachsteuerung, wie z.B. „Smart Speaker“, verbreiten sich zunehmend in Haushalten und belauschen KäuferInnen potentiell permanent in den privatesten Räumen.
-> Die Geräte sammeln personenbezogene Daten und senden diese an die Hersteller. Durch die intransparente Datenauswertung vertieft sich das Ungleichgewicht zwischen Anbietern und KonsumentInnen.
-> Zukünftig könnten digitale Assistenzsysteme den Zugang zur (Online-)Welt regeln.
-> Die Beurteilung dieses Geschäftsmodells wirft nicht nur datenschutzrechtliche, sondern auch gesellschaftspolitische Fragen auf.