Amazon Alexa: Wenn die Privatsphäre der Nutzer im Meeting-Raum landet

Smart Speaker wie der Amazon Echo sind mittlerweile in vielen Haushalten allgegenwärtig. Man sollte sich bei Benutzung dieser Geräte jedoch immer bewusst sein, dass die gestellten Anfragen in die Cloud gesendet und dort verarbeitet werden, da spielt es keine Rolle, ob es sich um einen HomePod, Google Home oder einen Echo handelt. Die Funktionsweise ist überall dieselbe.

Bloomberg hat mit ein paar ehemaligen Amazon-Mitarbeitern gesprochen, deren Job es war, die von den Echos dieser Welt aufgenommenen Audio-Dateien zu überprüfen, zu transkribieren, entsprechend zu bewerten und dann wieder zum Training in das neuronale Netz von Alexa einzuspeisen. Ja, es gibt Menschen, die sich euer gesprochenes Wort anhören und dabei nicht nur die für Alexa bestimmten Sätze zu hören bekommen.

So treffen sich diese Mitarbeitergruppen beispielsweise in Meetingräumen, um Erfahrungen auszutauschen, herauszufinden, was der Nutzer eigentlich sagen wollte, oder gemeinsam über amüsante Dinge zu lachen, die aufgenommen wurden. Bloomberg nennt den schiefen Gesang der Frau unter der Dusche als Beispiel. Bei dem Review dieser Audio-Dateien – Mitarbeiter sprechen von bis zu 1000 Clips pro Schicht – stößt man auch auf unschöne Dinge. So berichten Mitarbeiter, dass man Dinge hörte, die sich stark nach einem sexuellen Übergriff anhörten. Amazon selbst sagt, dass man Mitarbeitern wohl Möglichkeiten gibt, psychischen Druck der durch das Hören solcher Szenen entsteht, zu verarbeiten. Die Mitarbeiter behaupten jedoch etwas ganz anders, Amazon habe in einem solchen Fall wohl abgewunken mit der Aussage, man seie nicht zuständig.

Wenn die Mitarbeiter Gespräche mithören, wo private Daten wie Bankverbindungen oder ähnliches genannt werden, müssen sie die Datei entsprechend markieren (critical data) und dann mit der nächsten Datei weitermachen. Läuft es euch eiskalt den Rücken herunter? Es geht noch ein bisschen weiter. Theoretisch sollte Alexa nur Dinge aufzeichnen, die nach dem sogenannten Hot oder Wake Word gesprochen werden – also Alexa, Computer oder Echo. Einer der ehemaligen Mitarbeiter spricht davon, dass man täglich mit im Schnitt 100 Aufnahmen konfrontiert wird, wo das Hot Word nicht gesprochen und Alexa aus Versehen getriggert wurde. Ausgehend von den oben genannten 1000 Audio-Clips pro Schicht wäre das eine Quote von ganzen 10 Prozent.

“We have strict technical and operational safeguards, and have a zero tolerance policy for the abuse of our system. Employees do not have direct access to information that can identify the person or account as part of this workflow. All information is treated with high confidentiality and we use multi-factor authentication to restrict access, service encryption and audits of our control environment to protect it.” – Amazon

Laut Amazon sind alle Aufnahmen anonymisiert und der Bearbeiter kann nicht feststellen, um welchen Nutzer es sich bei dem Audio-Clip handelt. Ein Screenshot, der Bloomberg vorliegt, zeigt jedoch, dass man zwar keinen vollen Namen sehen kann, aber der Vorname, die Kundennummer und die Seriennummer des Gerätes an der Datei hängt. So ganz anonym ist das dann doch nicht.

Es ist ganz normal, dass Menschen dazu benötigt werden, Computermodelle anzulernen. Auch bei Siri und dem Google Assistant ist das der Fall. So blind sollte man auch nicht an die Sache herangehen. Dennoch ist es eine Frage des Umgangs mit den Kundendaten. Apple spricht in einem Security Whitepaper davon, dass die Aufnahmen auf dem Server sechs Monate gespeichert werden, keinen persönlichen Daten enthalten und einer zufälligen Nummer zugeordnet sind. Google anonymisiert ebenfalls und verfälscht die Audio-Spur zusätzlich.

Solltet ihr diese persönlichen Assistenten nutzen – und das betrifft nicht nur die Smart Speaker – dann werft einen Blick auf die Datenschutzeinstellungen und die Erklärungen zum Datenschutz bei dem jeweiligen Anbieter. Im Falle von Alexa ist auf dieser Webseite erklärt, wie man eure Daten verarbeitet. In den Datenschutz-Einstellungen von Alexa, könnt ihr die Option zur Verbesserung von Alexa und zur Verarbeitung eurer Aufnahmen auch ausschalten, diese sollten somit nicht mehr durch den oben beschriebenen manuellen Prozess laufen.

Update: Folgendes Statement haben wir von Amazon zu dieser Angelegenheit erhalten:

„Wir nehmen die Sicherheit und den Schutz der personenbezogenen Daten unserer Kunden ernst. Wir versehen nur eine extrem geringe Anzahl von Interaktionen einer zufälligen Gruppe von Kunden mit Anmerkungen, um die Nutzererfahrung zu verbessern. Zum Beispiel helfen uns diese Informationen, unsere Systeme zur Spracherkennung und zum Verständnis natürlicher Sprache zu trainieren. So kann Alexa Anfragen besser verstehen und sicherstellen, dass der Dienst für alle gut funktioniert. Bei uns gelten strenge technische und betriebliche Sicherheitsvorkehrungen und wir verfolgen eine Null-Toleranz-Politik, was den Missbrauch unseres Systems betrifft. Im Rahmen dieses Workflows haben Mitarbeiter keinen direkten Zugriff auf Informationen, die die Person oder das Konto identifizieren können. Wir behandeln Informationen mit hoher Vertraulichkeit, setzen auf eine Multi-Faktor-Authentifizierung zur Zugriffsbeschränkung, eine Verschlüsselung des Dienstes sowie Audits unserer Kontrollumgebung zum Schutz der Daten. Darüber hinaus können unsere Kunden ihre Sprachaufzeichnungen jederzeit löschen.“