Microsoft meldet kinderpornographische Inhalte in OneDrive und sorgt für Verhaftung

Wir berichteten kürzlich über den Fall eines Mannes, der auf Grund des Besitzes von kinderpornographischem Material in seiner Gmail-Inbox festgenommen wurde. Google ist aber nicht die einzige Firma, die E-Mails nach Inhalten scannt, die bestimmte Eigenschaften aufweisen. In Pennsylvania kam es nun ebenfalls zu einer Verhaftung, weil eine Person solches Material in seinem Cloudspeicher OneDrive gespeichert hat. Wie im Fall von Google läuft die Anzeige von Microsoft nicht direkt, sondern über das National Center for Missing and Exploited Children.

PhotoDNA

Erfasst werden die Inhalte aber nicht etwa durch Sichtung, sondern durch eine PhotoDNA Software. Bekannte Bilder werden in ein Raster aufgeteilt, aus jedem Feld werden nur schwarz-weiße Bildinformationen speichert, so quasi eine DNA des Bildes erstellt. Bilder können auf diese Weise schnell abgeglichen werden. Bei übereinstimmender DNA gibt es dann eine Meldung. Ein ebenfalls interessantes Detail, das Microsoft verrät: man ist gesetzlich dazu verpflichtet, diese Inhalte zu melden.

PhotoDNA wurde von Microsoft entwickelt und wird auch von Google, Twitter und Facebook genutzt. Durch den Abgleich mit bekannten Bildern, es ist ja nicht so, dass hier bestimmte Merkmale in beliebigen Bildern gesucht werden, sollte es theoretisch auch ausgeschlossen sein, dass Unschuldige ins Visier genommen werden.

Gefällt dir der Artikel? Dann teile ihn mit deinen Freunden.

Sascha Ostermaier

Technik-Freund und App-Fan. In den späten 70ern des letzten Jahrtausends geboren und somit viele technische Fortschritte live miterlebt. Vater der weltbesten Tochter (wie wohl jeder Vater) und Immer-Noch-Nicht-Ehemann der besten Frau der Welt. Außerdem zu finden bei Twitter (privater Account mit nicht immer sinnbehafteten Inhalten) und Instagram. PayPal-Kaffeespende an den Autor.

Das könnte dir auch gefallen…

Mit dem Absenden eines Kommentars willigst du unserer Datenschutzerklärung und der Speicherung von dir angegebener, personenbezogener Daten zu.

31 Kommentare

  1. Nein, nicht schon wieder die selbe Diskussion, wie im Google Bericht. Bitte nicht …

  2. Na hoffentlich hackt keiner mein onedrive account und spielt dort bilder hoch…

  3. Dass Unternehmen verpflichtet sind, das zu melden, ist lange bekannt.

    Der entscheidende Punkt ist der, dass aktiv unaufgefordert systematisch gesucht wird. Ohne Legitimation des Staates.

  4. Alle mir bekannten Mailprovider scannen jede Mail nebst Anhang nach Schädlingen. Darf das GMX, WEB & Co.? Ist ja auch ein Generalverdacht und ohne richterliche Anordnung. Und hier neben Schädlingen auch noch andere verdächtige Sachen zu suchen, dürfte kein Problem sein. Scan-Methoden öffentlich machen ist auch nur eine Einladung für die Falschen.

  5. @Olaf

    Genau so ist es.

    Unternehmen mögen verpflichtet sein, bestimmte illegale Inhalte zu melden, falls sie darauf stoßen. Sie sind nicht verpflichtet, in vorauseilendem Gehorsam von sich aus aktiv danach zu suchen.

    Und weder Google noch MS würden das ohne zwingenden Grund von sich aus tun, wenn sie nicht irgendeinen finanziellen/marktwirtschaftlichen Vorteil davon hätten.

    Aber nach kinderpornographischen Inhalten zu suchen (wer könnte schon etwas dagegen haben?) ist natürlich ein willkommener Vorwand, die eMail-Anhänge und Cloudspreicher der User genau unter die Lupe zu nehmen.

    Das man dann anschließend alle strafrechtlich relevanten Funde melden muss ist eher ein Abfallprodukt, ich möchte wetten das Google und MS eigentlich nach anderen Dingen suchen.

    Da werden sicherlich nicht nur die Bild- und Videodateien abgeschnorchelt, sondern alle Dokumente (in allen möglichen Formaten ANSI-Text über MS-Word bis PDF), CAD-Dateien, usw.

    Wer weiß, was da sonst noch nebenbei alles so abfällt oder wer mit diesen Daten dann beliefert wird?

    Einerseits frage ich zwar, welche Hirnamputierten denn z.B. patentrechtlich verwertbares Material unverschlüsselt als eMail-Anhang versenden oder in einem Cloudspeicher ablegen. Andererseits gibt es in jeder Firma vermutlich irgendeinen Trottel, der genau das tut, selbst wenn es strengstens untersagt ist. 😉

  6. @Karl und Grainiger:
    Gestern noch in einem Forum gelesen, wie das die Bunderegierung sieht:
    „In Übereinstimmung mit den europäischen Vorgaben werden die Zugangsanbieter nicht verpflichtet, selbst nach illegalen kinderpornografischen Inhalten zu forschen.“
    http://www.bmfsfj.de/BMFSFJ/kinder-und-jugend,did=121222.html

  7. Am Ende ist das der Todesstoß für jeglichen fremdgehosteten Cloudspeicher — wenn man Sicherheit ernst nimmt.
    Denn nie kann man sich sicher sein, daß die eigenen Daten dort nicht ausgewertet werden. Aber viel schlimmer: Nie kann man sich sicher sein, daß nicht ein „Feind“ (Konkurrent, Ex, etc.) dort verwerfliche Daten heimlich in einem versteckten Ordner speichert. Dann klingelt die Polizei morgens an der Tür… und man muß seine Unschuld beweisen, was nicht funktioniert, da nur Google/MS/Apple/Dropbox die Logs besitzen. Und ist der Feind die eigene Regierung… na dann „gute Nacht“!

  8. Andreas G. says:

    Da fällt mir in dem Zusammenhang doch glatt eine Folge von NCIS LA ein bei der der Chef der Behörde hoch geheime Dokumente in seinem SkyDrive aka OneDrive abgelegt hat.

    Klar ist das Product Placement aber es suggeriert doch dem unbedarften Zuschauer das, wenn sogar ein Geheimdienst seine Daten da ablegt, man nur selber wieder an die Daten kommt und sonst keiner.

  9. Schröppke says:

    ja ja, scroogled o_O

  10. NCIS? Ich guck nur Lindenstrasse, da ist wie Welt noch in Ordnung. Findhund ist cool..;-)

  11. Timo Falk (silbaer) says:

    @Olaf: Eine Pflicht zur Meldung besteht in Deutschland nicht. Jedenfalls nicht bei Kinderpornographie. Generell müssen nur bestimmte Straftaten gemeldet werden. Welche wird in §138 StGB geregelt.

    @Karl: Die Unternehmen dürfen nur Scannen um ihr Geschäft zu schützen bzw. dem nach zu gehen. Das heist, sie Scannen nach Malware um ihre Rechner zu schützen und analysieren den Inhalt um Werbung zu verkaufen. Das schließt ein Scannen nach Strafbaren Inhalten NICHT ein.

    @Grainger: Es muss nicht nur Strafbarer Inhalt nicht gemeldet werden, sondern es ist sogar selber eine Straftat Inhalte die dem Fernmeldegeheimis unterliegen anderen zugänglich zu machen. Das Scannen selber ist zwar verboten, aber nicht strafbar. Das weitergeben der Inhalte (bzw. Erkenntnisse daraus) schon.

    Sprich: Das was Google und Microsoft in Amerika machen ist in Deutschland gegen das gesetzt und sogar strafbar (bis 5 Jahre). Anders sieht das aus, wenn ein Richter(!) eine entsprechende Anordnung erläst, weil ein entsprechender Tatverdacht besteht. Dann, und NUR dann, dürfen Inhalte gescannt und Erkenntnisse an die Ermittlungsbehörden weiter gegeben werden.

  12. @Timo: Die Pflicht zur Meldung betriift hier im Artikel die USA, nicht Deutschland. Es ging ja um Microsoft und Google in den USA.

  13. auch einer says:

    grainger:

    ..
    Aber nach kinderpornographischen Inhalten zu suchen (wer könnte schon etwas dagegen haben?) ist natürlich ein willkommener Vorwand, die eMail-Anhänge und Cloudspreicher der User genau unter die Lupe zu nehmen.

    Das man dann anschließend alle strafrechtlich relevanten Funde melden muss ist eher ein Abfallprodukt, ich möchte wetten das Google und MS eigentlich nach anderen Dingen suchen.
    ..

    – das ist exakt auf den punkt gebracht was dahinter steckt.

  14. @Olaf,
    stimmt, da hast du vollkommen recht. In den USA gelten US-Gesetze, und keine europäische/deutsche Gesetze. Die Europäer sollten wirklich damit aufhören, ihre europäischen „Datenschutzbestimmungen“ auf die ganze Welt ausdehnen zu wollen. Im Grunde spielen sich die europäischen/deutschen Datenschützer immer als Weltdatenschutzpolizei auf, und nicht immer die „ach so bösen“ Amis.

  15. @Chris: Mein Hinweis war nur ein sachlicher HInweis, da es durcheinenander ging,, keine Stellungnahme …

    Man sollte aufpassen, nicht das Vorgehen von amerikanischen Unternehmen mit deutschen/europäischen Datenschützern bzw. staatlichen Maßnahmen in einen Tops zu werfen …:)

  16. Ich denke mal da werden wir von Microsoft noch viel mehr hören, da SkyDrive ja als Dokumentenablage bei Windows 8 eingeführt wurde

  17. @Sascha Ostermaier
    Theoretisch würde ich schon mal überhaupt nichts ausschließen den auch unschuldige können in dieses Dilemma geraten. Kleines beispiel gefällig? Das kleine Kinder gerne Baden und plantschen ist kein Geheimnis, gerne werden auch hier Fotos fürs Familienalbum und co. geschossen. Opa, Omi und die ganzen Tanten und Onkels wollen natürlich auch Abzüge davon haben wie die kleinen baden. Was liegt da näher das ganze per Email an die Verwandtschaft zu senden. Beim scannen der Bilder durch Google und co. kommt man so ganz schnell unschuldig in Verdacht. Mit Verlaub ich finde es eine Schweinerei wenn andere meine Bilder anschauen und dann einfach urteilen ob ich gut oder Böse bin.

  18. Sascha Ostermaier says:

    @Harry: Genau das ist eben nicht der Fall. Von Deinen Urlaubsbildern gibt es bei Microsoft und Co ja keine „DNA“, die als Vergleichswert vorliegen könnte. Wie sollte da also eine Mail von Dir verdächtig werden?

  19. Der Artikel suggeriert, dass Microsoft dazu verpflichtet sei, die Dateien der Benutzer zu durchsuchen. Habe das aber in der verlinkten Quelle nicht herauslesen können (oder habe ich es überlesen)?

  20. Die Frage ist doch: wie zuverlässig ist dieses DNA-Verfahren?

    Denn egal wie ausgefeilt das Programm ist, letztendlich ist es eine Ähnlichkeitsanalyse.

    Und wenn man nun – wie von Harry beschrieben – Bilder von Kindern beim Spielen im Swimming Pool an die Oma sendet (ich meine damit ganz „normale“ Bilder von badenden und spielenden Kindern ohne jeglichen kinderpornografischen Bezug) und eines der Kinder weist eine ausreichende Ähnlichkeit mit einem vermissten Kind aus diesem DNA-Projekt (schon der Begriff ist imho bewusst missverständlich gewählt um eine nicht vorhandene Zuverlässigkeit vorzutäuschen), werden irgendwo die Alarmglocken läuten.

    Ich unterstelle mal, dass sich vor Aussenden eines Squad-Teams noch mal ein menschlicher Operator die Bilder ansehen wird, aber bei einer Nation, die Drohnentötungen aufgrund anhand von Auswertungen von Metadaten betreibt würde ich mich auch darauf nicht verlassen wollen.

    Und die Grenzen zwischen amerikanischen und deutschem recht sind da durchaus fließend.

    Ich würde mich nämlich auch nicht darauf verlassen wollen, dass die deutschen eMails nicht über einen amerikanischen Server laufen, dort gescannt werden und im Verdachtsfall nicht zumindest die amerikanischen Behörden informiert werden, die dann ihrerseits wiederum die deutschen Behörden informieren.

    und wenn wegen des Verdachts der Kinderpornografie erst einmal gegen einen ermittelt wird nutzt es auch absolut nichts, falls sich hinterher heraus stellt, dass das in keinster Weise gerechtfertigt war.

    Dann ist man gesellschaftlich ruiniert und kann sich einen neuen Job und neue Nachbarn suchen (am besten weit entfernt).

    Das Thema Kinderpornografie ist inzwischen derart in den Blickpunkt der medialen Aufmerksamkeit gerückt (was ich grundsätzlich durchaus befürworte), dass schon das Bekanntwerden eines Verdachtes (wie unbegründet er auch sein mag) das gesellschaftliche Aus für den verdächtigten bedeutet.

    Deshalb muss man da (auch zum Schutze unschuldig Verdächtigter) ganz besondere Sensibilität bewahren. Und für ihre Sensibilität sind die Amerikaner nun nicht gerade berühmt.

    Aber wie ich weiter oben schon schrieb:
    letztendlich dient das vorgebliche Suchen nach kinderpornografischen Inhalten nur als Vorwand zum Abschnorcheln möglichst vieler Daten.

  21. Namenlos, weil Cookies gelöscht... says:

    @Sascha Ostermaier:
    „@Harry: Genau das ist eben nicht der Fall. Von Deinen Urlaubsbildern gibt es bei Microsoft und Co ja keine “DNA”, die als Vergleichswert vorliegen könnte. Wie sollte da also eine Mail von Dir verdächtig werden“

    Und wie bitte kommt so eine DNA zustande? Indem geschnorchelt wird und bestimmte Bilder ins Raster fallen. Evtl. weil der (echte) Onkel auf dem Schnappschuss gerade etwas sabbernd guckt…
    Ich möchtest Du mit deiner Aussage umschreiben, dass nur wirklich eindeutige, als KiPo zu erkennende Bilder, die von einer Prüfstelle „zertifiziert“ wurden, als DNA dienen dürfen?

    Das klingt so garnicht nach den Methoden, die in den letzten Jahren zur Überwachung eingesetzt wurden/werden. Aber ich kenne mich auf dem Gebiet nicht aus.

  22. Es gibt nur eine Sache auf diesem Planeten, die noch besser ist als der Gewinn der Fussballweltmeisterschaft: Einen Pädophilen zu verhaften! Das ist so klasse wenn ich es lese, dass es mir den Tag versüsst.
    Wenn ein Scan meiner Bilder in Emails oder Onlinespeichern dabei hilft, bin ich auf jeden Fall dabei. Klar ist es doof, dass nicht nur die Mails und Clouds dieser Monster gescant werden, aber ist halt schwierig auszumachen, wer einer von denen ist..
    Und nach dem grossen NSA Skandal wundert es mich sowieso, dass sich noch einer über sowas aufregt..

  23. Namenlos, weil Cookies gelöscht... says:

    Irgendwo in meinem Text ist ein Ich zu viel, das mit einem oder ausgetauscht werden sollte. Es fehlt auch ein Fragezeichen und nach dem guckt… könnte noch stehen, das dies nur aufgrund des Schnapses war und nicht aufgrund lüsternder Gedanken. Denn das möchte ich niemandem Unterstellen, denn ich kenne nur meine eigenen Gedanken.

  24. @klardumm:
    Eine Sache ist sogar noch besser:
    Das es wirklich solche dämlichen Menschen wie dich gibt. Alle eine Kamera ins Wohnzimmer, natürlich auch dir, dann wird man mindestens einen weiteren Pädophilen finden.

  25. @schaluppe
    sehr produktiver Beitrag. Danke, dass du mich auf meine Dummheit aufmerksam gemacht hast. Das wusste ich aber schon vorher, da Google die Rechtschreibfehler in meinen Mails gescant hat und mich daraufhin angezeigte . Huch! Das stimmt ja gar nicht.. Hmmm. Komisch.
    Naja.. Kamera ins Wohnzimmer ? Nö.. Scannen von eindeutig bekannten Bildern? Jupp

  26. @Sascha Ostermaier:
    Also gibt es diese „DNA“ nur von Bildern, die schon als kindepornografisch bekannt sind? Wenn ja, gibt es da evtl. zw. Europa und USA schon unterschiedliche Auslegungen? Wäre nicht das erste Mal, dass in den USA schon „sittenwidrig“ oder ein NoGo ist, worüber man hier nur müde lächelt – wenn überhaupt…

    A er es wird eben noch anders gescannt, ich hatte genau so einen Fall und war kurz nach der Geburt des Sohnes bei Freunden. Dabei einige Fotos gemacht, das übliche: bei Krabbeln beim Füttern, beim Baden.
    Und weil es so einfach war, die Bilder in der Cloud nur für die Familie freigegeben.
    Kurz darauf Mail von MS, ich soll die Fotos, die gegen die AGB verstossen löschen, sonst wird Cloud gesperrt o.ä. Hat eine Weile gedauert, bis ich drauf kam., dass auf 2-3 Fotos zu erkennen war, dass es ein Junge ist.
    Also wird wohl (auch) allgemein gescannt…
    Problem bei mir soll aber das Teilen gewesen sein.

  27. @klarluck:
    da haben aber gewisse Stellen ganze Arbeit geleistet, es funktioniert.
    Erst erzählen wir mal wir müssen mehr überwachen wg. dem Terror, das habe, ja einige schon eingesehen, die Regierungen haben Geld für Technik u. Personal bewilligt. Langsam schwindet die Sympathie dafür allerdings. Könnte daran liegen, dass man noch nicht nachweisen konnte, ob oder wieviel das brachte.
    Kinderpornografie ist aber wieder so ein Thema, der in der Bevölkerung gut ankommt – wie man hier schön sieht. Da ist so mancher zu einige, Zugeständnissen durchaus bereit und dann schauen wir mal, wie weit wir noch gehen können – Technik, Leute und Geld haben wir ja schon mal.
    Die ganze Sache ist ein heikles Thema, führt eben auch zu „Dammbrüchen“ was das Verhältnis der Bevölkerung zu Überwachung betrifft, Terrorabwehr und Aufspüren von Kinderpornographie sind ja lobenswerte Gründe und wir haben ja eh nichts zu verbergen…

  28. Aktuell wird von einer DNA gesprochen. Das Bild wurde also wohl einmal händisch als kipo eingestuft. Nun ist es ein leichtes Kopien dieses Bildes zu suchen. Dateigröße, hash, Farbverteilung usw. Soweit sehe ich das ganze als „einigermaßen“ unproblematisch an. Was ist aber wenn das Bild nicht händisch eingestuft wird, sondern mittels Bilderkennung als Kipo klassifiziert wird? Dann ist das harmlose Urlaubsbild möglicherweise auch mit im Raster. Die Bilderkennung macht aktuell wahnsinnige Fortschritte – gerade bei MS und Google. Ein beliebiges Bild kann mittlerweile ich über 20.000 unterschiedliche Kategorien relativ zuverlässig eingeordnet werden – ohne dass das System das Bild vorher je gesehen hat. Die Algorithmen werden durchgehend verfeinert und möglicherweise gibt es schon einen Kipo-Klassifizierer – wenn nicht dann möglicherweise bald. Wenn dann der restliche Prozess der Verständigung der Behörden auch noch automatisiert ist und das Bild aus dem Kontext einer Urlaubsbilderserie gerissen wird – dann viel Spaß bei der nächsten Hausdurchsuchung.

  29. @dischue
    Ich möchte hier keine Diskussion über die Vernetztheit der Welt, Terrorabwehr, Prävention und den gläsernen User führen. Obwohl das selbstverständlich mittelbar zusammenhängt denke ich, dass es eine sinnvolle und kostengünstige Möglichkeit ist diese Leute zu packen. Die sollen sich nicht sicher fühlen solche Fotos per Mail zu senden oder in der Cloud mit irgendwem zu sharen.
    Wenn dieses PhotoDNA da kurz die Bilder nach den schon eindeutig Bekannten scant und sich niemand darüber kaputtlacht, wie ich betrunken im Bademantel zu Scooter tanze, ist doch alles gut.
    Irgendwas schmeisst ja auch die Spammails in den dafür vorgesehenen Ordner. Das wird ja auch nicht händisch passieren.. (OMG, was wär das für nen Job…)
    Wie dem auch sei, ich bleibe jedenfalls bei Herrn Google und Fräulein Microsoft und wechsel nicht zu GMX, WEB oder Telekom, da die das ja anscheinend nicht machen sollen… http://stadt-bremerhaven.de/kindesmissbrauch-gmx-web-deutsche/

  30. Also ich glaube nicht, dass nur nach DNA gescannt wird, da have ich vor 2 Jahren was anderes erlebt.
    – ich hatte ein Windows Phone Omnia 7
    – damals so eingerichtet, dass Fotos des Omnia automatisch zu Skydrive gesynct wurden
    – mein damals 3 Monate alter Sohn hatte auf einmal Samstagnacht einen Tischtennisball großen Hoden – also Nachts zum Notarzt, weil ich dachte, das könnte ein Leistenbruch sein
    – also zum Arzt, aber oh Wunder, Schwellung weg, Nachts umsonst gefahren…
    – zwei Tage später, das gleiche Nachts nochmals, diesmal ich ganz schlau, diesmal schnell 3-4 Bilder vom Hodensack mit dem Handy gemacht
    – Ab zum Arzt, Diagnose Wasserbruch – gut dass wir da waren!

    – in dem Moment war mir gar nicht bewusst das diese Bilder gesynct wurden
    – ca. 3 Monate später durfte ich mich nicht mehr in meinen Skydrive-Account einloggen, dieser war gesperrt, es wurden in der Meldung, Bilder von mir mokiert (sah man am Dateinamen WPXXXXX.JPG – für WindowsPhone)
    – nach Kontatkt mit dem Service von Microsoft wurde mir für 24 Stunden wieder Zugang gewährt, um betreffende Bilder zu löschen – erst da wurde mir bewußt dass es meine eigenen Bilder waren, die aussahen wie Kinderpornographie, ein riesiger Hodensack in Großaufnahme ……
    – Geblockt wurde ich, weil mein Foto-Oordner eine Freigabe für meine Frau enthielt.

    Also Fakt, es wird systematisch gescannt. Und nicht nur nach DNA. Meine Bilder waren noch nie irgendwo im Internet unterwegs – es konnte also keine Vergleichsbilder geben um meine zu ermitteln.
    War ein doofes Gefühl, in den Verdacht geraten zu sein, etwas mit Kinderpornographie zu tun zu haben.

Du willst nichts verpassen?
Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den Hauptfeed abonnieren. Alternativ könnt ihr euch via E-Mail über alle neuen Beiträge hier im Blog informieren lassen. Einfach eure E-Mail-Adresse hier eingeben, dann bekommt ihr 1x täglich morgens eine Zusammenstellung. Mit dem Absenden willigst du unserer Datenschutzerklärung und der Speicherung von dir angegebener, personenbezogener Daten zu.
Wir benutzen Cookies um die Nutzerfreundlichkeit der Webseite zu verbessern. Durch Deinen Besuch stimmst Du dem zu.