Freispruch für Alexa: Nächtliche Party wurde per App initiiert
von Benjamin Mamerow | 31 Kommentare
Sicherlich ist auch euch nicht entgangen, dass sich in der Nacht auf den 4. November 2017 ein gar mysteriöses Ereignis zugetragen hat. Mitten in der Nacht musste die Polizei in Pinneberg anrücken, da aus einer einzelnen Wohnung derart laute Musik zu hören war, dass es sich dabei doch nur um eine Party hätte handeln können. Nur: niemand war anzutreffen. Die laute Musik wurde derweil von Alexa aus einem Amazon Echo gestreamt. Und dem ersten Anschein nach muss sich die gute wohl selbst gestartet haben, vielleicht aus Einsamkeit?
Doch denkste! Amazon bekam vom Alexa-Nutzer die Erlaubnis, etwas tiefer zu investigieren und wurde schnell fündig:
„Der mysteriöse DJ war dann auch schnell ausgemacht: Gerade einmal drei Minuten, nachdem der Kunde seine Wohnung verlassen hatte, wurde die Musikwiedergabe auf dem Amazon Echo aus der Mobil-App eines Musik-Streaming-Anbieters heraus aktiviert und die Party ging los… kurze Zeit später wurde dann auch noch über diese App die Lautstärke von 77 auf volle 100 Prozent hochgeregelt.“ – Mitteilung von Amazon
Wie genau die App nun gestartet wurde – ob nun aus Versehen in der Hosentasche oder weil das Handy eventuell bei einem Kind in der Hand lag – keine Ahnung, ist ja aber auch nicht so dramatisch wichtig. Viel interessanter empfinde ich die Diskussionen, die direkt nach der Erstmeldung losgetreten wurden, auch hier in meinem Bekanntenkreis. Hacker, Viren, was nicht alles. Nur einen Anwenderfehler, den wollten viele nicht sehen 😉
Wird geladen ...
Hab gestern gehört, Amazon würde aus Kulanz, die Kosten für den Schlüsseldienst übernehmen.
Das ist echt generös, für einen Anwenderfehler!
Und nur genau das wollte der Typ erreichen. Klappt ja heutzutage recht gut. Bei Problemen mit großen Unternehmen einen Bettelbrief mit Druck auf die Tränendrüse bei Facebook einstellen und hoffen das es viral geht. Da lässt sich dann kein Konzern lumpen.
@Max09 Ist ja auch billiges Marketing, gerade jetzt wo sich herausgestellt hat, dass es kein Fehler von Alexa war.
Für so eine internationale Reichweite legt man sicher mehr als 5000€ aus 😉
Gruselig, dass Amazon so exakt das Nutzerverhalten / die Bedienung reproduzieren kann. „Amazon bekam vom Alexa-Nutzer die Erlaubnis,…“ Janeiskla – als ob die nur mit Erlaubnis des Nutzers solche Daten erheben! *Aluhutaufsetz*
Das es ein Anwenderfehler war geht bestimmt nicht so durch die Presse
Was hier noch niemand aufgeworfen hat: Auch die App / das Backend könnte einen Fehler haben. Ist ja auch nur eine API-Benutzung durch den Streaming-Anbieter.
Das ist mir auch schon öfter passiert, allerdings mit Spotify Connect über einen Yamaha AV Receiver. Das funktioniert nämlich auch, wenn beide Geräte nicht im gleichen WLAN sind. Einmal vor dem Drücken auf Play bei Spotify nicht drauf geachtet, welche Player gerade aktiv ist, schon läuft der Ab Receiver durch, bis man wieder nach Hause kommt…
@Felix: Hier ging es wahrscheinlich nicht um die Datenerhebung selbst, sondern um die Auswertung und Veröffentlichung
@MarsKn
Das merkt man aber relativ schnell, wenn aus dem eigenen Gerät die erwartete Musik nicht ertönt (zumindest, wenn man es bewusst macht, was ich anhand deines Beispiels jetzt mal denke). Spotify kann nämlich pro Account nur auf einem Gerät laufen.
Zitat“ Wie genau die App nun gestartet wurde – ob nun aus Versehen in der Hosentasche oder weil das Handy eventuell bei einem Kind in der Hand lag – keine Ahnung, ist ja aber auch nicht so dramatisch wichtig. “
Wie kann man drnn bitte auf Nutzerfehler schließen, wenn man gar nicht weiß wie die App gestartet wurde? Es ist zwar nicht die Schzld von Alexa, aber d.h. auch nicht, daß es ein,Nutzerfehler sein muß.
Nunja, natürlich konnte immer noch jemand die Zugangsdaten zur App/zum Musikservice gekapert haben. Aber vermutlich einfach unabsichtlich passiert. Brauche nur ansehen, wie oft ich trotz automatischer Sperre nach einer Minute seltsames Zeug auf dem Handy vorfinde nachdem ich es im Sack hatte. Aber dennoch: wenn Anwenderfehler solche Auswirkungen haben können, ist das immer kritisch zu betrachten.
Persönlich arbeite ich selbst genug mit Neural networks (und habe passenderweise mein Doktorat im Bereich Sprachsynthese gemacht) um sie mir nicht selbst ins Haus zu holen ;). Je komplexer ein System umso schwerer sind die Effekte abschätzbar, besonders in Verbindung mit Menschen. Die Komplexität des Lebens nimmt in den meisten Fällen mehr zu als der Nutzen.
Und das kuriose daran. Alexa weiß ganz genau dass du gerade nicht in deiner Wohnung bist. Könnte sie nicht einfach nachfragen warum man denn gerade da wo man nicht ist laute Musik haben möchte? Ich meine, mit Frontkamera-Berechtigung kann sie den Benutzer identifizieren und mit Gyroskop und GPS herausfinden ob er Bahn oder Auto fährt…
Es ist alles kein Problem solche Systeme intelligent zu machen – man muss halt nur dran denken…
@TheCuda: ja natürlich habe ich das sofort gemerkt und dann das Gerät gewechselt. Das Ärgerliche ist nur, dass dadurch der Receiver angeschaltet wurde und auch an bleibt, bis jemand nach Hause kommt, um ihn auszuschalten.
@Felix: da kann man nur sagen: Willkommen im 21.Jahrhundert – BigBrother is watching you.
Kannst mir glauben, das Apple,Google, Amazon, Facebook und Co. mehr über dich wissen, als du denkst
@Felix
Ich denke Mal, normalerweise nutzt Amazon die Daten nur, um ihr neuralonales Netzwerk mit Informationen zu füttern und kein echter Mensch schaut tatsächlich in die Daten (zumindest nicht unanonymisiert). Genau dafür haben sie sich also zunächst die Erlaubnis vom Benutzer geholt.
Finde ich gut. Ich habe in letzter Zeit vermehrt Artikel gelesen, in denen es zumindest den Eindruck erweckt, dass Amazon gewissenhaft mit Kundendaten umgeht. (Auch Kooperation mit Strafverfolgungsbehörden erst nach Gerichtsbeschluss, etc)
😀
genau das ist mir auch schon passiert. In Spotify fällt das halt kaum auf, dass als Player immer noch der echo ausgewählt ist, auf dem man vor Tagen mal was gehört hat.
Und wenn man dann schon ein paar Bier intus hat, erst Recht nicht 😀
Ist mir auch schon passiert. da war aber meine Frau zu Hause und konnte mich „nett“ darauf hinweisen 😀
@Marskn: Kannst du da sgenauer erklären? Mein Yamaha schaltet sich nach 30 Minuten ab… und wenn ich nicht im gleichen WLAN bin, geht die Musiccast App auch nicth, es sei denn per VPN…
@DFFVB mein Receiver hat nichtmal Musiccast, sondern die Verbindung ist über Spotify Connect. Ob die Möglichkeit der Abschaltung besteht, gucke ich jetzt nochmal…
Im Prinzip die selbe Problematik wie beis elbstfahrenden Autos nur in harmloserer Variante (Ruhestörung statt Tötung): Wenn automatisierte Systeme unerwünschtes Verhalten zeigen – sei es durch Bedienungsfehler oder Programmierungsfehler – wer haftet?
Konsequenter Weise darf man automatisierte Systeme eigentlich nicht als Freischein für Haftungsentfall behandeln; Wenn aber der Benutzer voll haftet, wird Besitz unattraktiv; Haftet der Hersteller, wird Verkauf unattraktiv. Zumal oftmals die Schuldfrage nicht klärbar sein dürfte.
Bin ja gespannt, was sich da die nächsten Jahre juristisch tun wird…
@Klaus
Noch mal lesen. Es liegt kein Bedienungsfehler oder Programmierungsfehler vor. Der Anwender (wer auch immer) hat das ganze initiiert.