You are here

Hört sonst noch jemand zu?

Mythen gibt es im Kontext der digitalen Entwicklung einige und es liegt stets im Interesse bestimmter Unternehmen, diese zu pflegen. Ein solcher Mythos ist der, dass der Sprachassistent Alexa von Amazon seine Spracherkennung ausschließlich durch Maschinenlernen verbessert.

Spracherkennungssoftware ist ähnlich wie ein Schrifterkennungsprogramm ein KI-System. Bekannterweise sind KI-Systeme zwar selbstlernend. Dies bedeutet jedoch nicht, dass ein KI-System ohne hinreichend gute Startparameter gut und schnell lernen kann. Das Trainieren eines Systems zur Spracherkennung ist eine besonders komplexe Aufgabe, da Sprache lebendig ist und sich ständig weiter entwickelt. Außerdem gibt es überall auf der Welt regionale Sprachbesonderheiten, nicht nur in Form von Dialekten.

Aus diesem Grund beschäftigt Amazon weltweit tausende von Mitarbeitern, die an der Verbesserung von Alexa arbeiten, wie der Informationsdienstleister Bloomberg kürzlich mitteilte. In dem Beitrag [1] berichten Gerrit De Vynck, Mark Gurman und Irina Vilcu, dass je Mitarbeiter täglich ca. 1000 Alexa-Aufzeichnungen angehört, transskribiert und mit Anmerkungen zur technischen Verbesserung versehen werden. Die Berichte der Mitarbeiter weisen darauf hin, dass die abgehörten Personen oft gar nicht wissen, dass ihr Echo-Gerät Daten zum Amazon-Server überträgt, da Hintergrundgespräche und Geräusche mit privaten, sensiblen und intimsten Inhalten erfasst wurden. Die Berichte deuten ebenfalls an, dass Echo-Geräte sehr hellhörig auch das Geschehen in Nebenräumen verfolgen können.

Lediglich in einer Liste der am häufigsten gestellten Fragen erklärt Amazon bezüglich Alexa: „We use your requests to Alexa to train our speech recognition and natural language understanding systems“. Einen Hinweis von Amazon, dass die Mitschnitte von Amazon-Mitarbeitern abgehört werden, gab es bislang dabei nicht. Die Nutzung der Tonaufzeichnung zur Weiterentwicklung von Alexa kann in Alexas Einstellungen unterbunden werden, wie Der Spiegel in einem Artikel [2] beschreibt.

Gemäß Informationen auf Amazons Webseite sollen keine Tonaufzeichnungen gespeichert werden, solange Echo nicht das Aktivierungswort - in der Standardeinstelleung ist dies „Alexa“ - erkennt oder die Aufzeichnung per Knopfdruck aktiviert wird. Häufig startet Echo die Aufzeichnung jedoch, ohne dass dies vom Benutzer gewollt wird. Auslöser können Audiosequenzen des Fernsehers, laufendes Radio oder andere Geräusche sein, die als Aktivierungswort fehlinterpretiert werden.

Dies wurde bisher nur von einzelnen Privatpersonen im Internet berichtet, ist nunmehr durch den Beitrag von Bloomberg jedoch offiziell bestätigt. In welchem Ausmaß diese Fehlfunktion vorliegt, ist dem Beitrag ebenfalls zu entnehmen: Von den ca. 1000 Aufzeichnungen, die ein Amazon-Mitarbeiter täglich bearbeitet, werden jeweils etwa 100 fehlerhaft gestartet. Das entspricht einer erheblichen Fehlerquote von zehn Prozent.

Auch von weiteren schwerwiegenden Verletzungen des Datenschutzes durch Alexa wurde in der Vergangenheit berichtet. So informierte Der Spiegel in einem Artikel [3] darüber, dass ein Gespräch nicht nur unbefugt abgehört, sondern der Inhalt auch noch an einen Kontakt aus dem Adressbuch verschickt wurde.

Aufgrund der bereits bekannten Pannen im Zusammenhang mit Alexa, Google Home & Co hat ein findiger Anbieter ein Alias-Gerät [4]entwickelt, dass dem Sprachassistenten übergestülpt wird und an diesen nur Störgeräusche übermittelt. Das Gerät ermöglicht die völlig flexible Festlegung des Aktivierungsworts, wodurch fehlerhafte Aktivierungen möglicherweise reduziert werden können.

Wer in seinem Privathaushalt trotz der beschriebenen erheblichen Datenschutzmängel ein solches Gerät betreiben möchte, der wird dafür gute Gründe haben. Und es ist jedermanns persönliche Angelegenheit, sich dafür oder dagegen zu entscheiden. Wünschenswert wäre aber, wenn der Alexa-Besitzer auch als privater Gastgeber daran denkt, rechtzeitig den Stecker zu ziehen. Ansonsten stellt sich die Frage, ob beim Besuch von Freunden vorher zu klären ist, ob Alexa mit von der Partie ist. So abwegig ist der Gedanke nicht: Auch Jugendliche verständigen sich bei privaten Treffen immer häufiger darauf, die Handys in einen Nebenraum zu verbannen, weil ihnen das Gefühl unangenehm ist, über die Handys abgehört werden zu können.

Auch dass der Einsatz von [5] Alexa in Massagepraxen datenschutzrechtlich ein No-Go ist, dürfte durch die beschriebenen Abhörmaßnahmen nunmehr endgültig klar sein.

Sabine Materne

[1] www.bloomberg.com/news/articles/2019-04-10/is-anyone-listening-to-you-on-alexa-a-global-team-reviews-audio

[2] www.spiegel.de/netzwelt/gadgets/amazon-mitarbeiter-hoeren-sich-tausende-privatgespraeche-mit-alexa-an-a-1262315.html

[3] www.spiegel.de/netzwelt/gadgets/amazon-echo-alexa-zeichnet-gespraech-auf-und-verschickt-es-a-1209462.html

[4] www.spiegel.de/netzwelt/gadgets/amazon-echo-und-google-home-project-alias-soll-privatsphaere-pannen-verhindern-a-1248626.html

[5] blog.suma-ev.de/node/235