15.07.2019

Wenn Alexa zum Big Brother wird

Alexa, Siri und Co. geben Auskunft übers Wetter, spielen Musik vor, oder plaudern mit uns. Das kann nützlich sein und Spaß machen. Doch die digitalen Helfer bedeuten auch ein Aufweichen unserer Privatsphäre und liefern Unternehmen jede Menge Daten über unseren Alltag, wie eine neue Studie von Technikfolgenforschern der ÖAW verdeutlicht.

© Pixabay

„Alexa, mach das Licht an!“ Was lustig klingt und bequem ist, bedeutet auch die Teilhabe von datensammelnden Maschinen an unserem Zuhause. Denn bei aller Nützlichkeit stellen digitale Assistenten wie Apples Siri oder Amazons Alexa einen Eingriff in unsere Privatsphäre dar. Sie haben nicht nur Zugriff auf unsere Daten und können damit unsere Lebensgewohnheiten erfassen. Sie können diese Daten auch mit den Daten anderer Anbieter verknüpfen und erhalten damit ein noch vollständigeres Bild unseres Alltags und unserer Vorlieben. Das macht eine neue Studie des Instituts für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ÖAW) deutlich, die im Auftrag der Arbeiterkammer Wien zu digitalen Assistenten durchgeführt wurde.

Studienautor Jaro Krieger-Lamina betont im Gespräch die geschäftlichen Potenziale der Spracherkennung und warnt vor der Gefahr einer nahezu lückenlosen Überwachung.

Welches Potenzial haben digitale Assistenten und wo sehen Sie Risiken?

Jaro Krieger-Lamina: Der Einsatz von digitalen Assistenten kann etwa das Leben von älteren Menschen oder Menschen mit Behinderungen positiv verändern, wenn sie deren Einsatz akzeptieren oder sogar wünschen. Er vereinfacht die Teilhabe an der digitalen Welt. Es muss uns aber bewusst sein, dass wir uns damit einer lückenlosen Aufzeichnung dessen ausliefern, was in unserem Zuhause, im Gespräch mit unserer Familie oder unseren Freunden, also in unseren intimsten Momenten, passiert. Die Abwägung zwischen Nutzen und Risiko muss jeder selber treffen. Auf gesellschaftlicher Ebene wäre hier jedoch der Staat gefragt.

Bei digitalen Assistenten muss uns bewusst sein, dass wir uns damit einer lückenlosen Aufzeichnung dessen ausliefern, was in unseren intimsten Momenten passiert.

Was bedeutet es, wenn wir alle mit Computerprogrammen so sprechen, als wären es tatsächliche Gesprächspartner?

Krieger-Lamina: Zunächst einmal gewöhnt man die Menschen so an die Sprachsteuerung, und damit an die Kommunikation mit Maschinen. Es geht nicht mehr nur darum, dass die Maschinen uns verstehen, sondern darum, dass wir die Maschinen verstehen. Dadurch, dass die Kommunikation mit Maschinen jener mit Menschen immer ähnlicher wird, werden die Systeme auch Teil der Familie, man kann sich vielleicht mit ihnen identifizieren, baut eine Beziehung auf, vertraut ihnen und macht unbewusst bestimmte Zuschreibungen, zum Beispiel was ihre Kompetenz betrifft. Man kann sich auch überlegen, wie sich das auf unsere Fähigkeit zur Reflexion auswirkt, wenn wir die Antworten vielleicht nicht einmal mehr in Frage stellen oder andere Optionen erwägen. Ein bisschen ist das wie mit Menschen, die Navigationssystemen blind vertrauen und dann plötzlich die Stiegen zur U-Bahn hinunterfahren.

Dadurch, dass die Kommunikation mit Maschinen jener mit Menschen immer ähnlicher wird, werden die Systeme auch Teil der Familie.

Was für eine Rolle werden Alexa, Siri und Co. in der Zukunft spielen?

Krieger-Lamina: Viele träumen bereits vom großen Geschäft: „Conversational Commerce“ ist hier das Schlagwort. Digitale Assistenten könnten in Zukunft an vielen Orten bereits vorinstalliert sein. Schon jetzt gibt es Hotelzimmer, die mit Alexa ausgestattet sind. Wenn ich mich einlogge, kann ich sofort zu shoppen beginnen, meine Musik hören und vieles mehr. Auch an anderen Orten, etwa im Auto oder im selbstfahrenden Taxi, könnte man sich mit Stimmprofilen identifizieren – oder identifiziert werden. Wir müssen uns überlegen, was das bedeuten würde, wenn allein der Klang unserer Stimme ausreicht, um all unsere Daten mit uns zu verknüpfen.

Alexa wird quasi zum Big Brother…

Krieger-Lamina: Digitale Assistenten säßen an der Schnittstelle unserer gesamten Kommunikation. Sie wüssten, wem wir schreiben, oder wen wir anrufen, was wir kaufen, wo wir waren, was uns interessiert und wie wir uns bei all dem gefühlt haben. Auch an der Erkennung von Emotionen wird fieberhaft gearbeitet. Wenn ich also mit einer Erkältung daheim bin und Alexa aktiviert ist, könnte sie mir dann vorschlagen, bestimmte Taschentücher, Medikamente etc. einzukaufen. Die vorgeschlagenen Marken sind dann natürlich nicht willkürlich ausgewählt, es handelt sich dabei um gezielte Werbung. So könnten sie gleichsam zu „Torwächtern“ des Internets werden. Große Unternehmen wie Amazon oder Google sehen hier ein enormes Geschäftspotenzial.