EU könnte Scannen von Nachrichten auf CSAM verpflichtend machen
von caschy | 38 Kommentare
Photo by Sara Kurfeß on Unsplash
Laut eines Berichtes des Mediums Politico soll die EU-Kommission bald einen Gesetzentwurf veröffentlichen, dessen Inhalt brisant ist. So könnten die großen Tech-Konzerne verpflichtet werden, Inhalte der Nutzer nach sogenanntem CSAM (Child sexual abuse material), also Material, welches sexuellen Kindesmissbrauch darstellt, zu durchsuchen. Werden solche erkannt, könnten die Unternehmen gezwungen werden, diese Bilder zu entfernen oder den Strafverfolgungsbehörden zu melden.
Laut einem von Politico am Dienstag erhaltenen Leak des Vorschlags sagte die Kommission, dass sich freiwillige Maßnahmen einiger Plattformen bisher „als unzureichend erwiesen“ haben, um den Missbrauch von Online-Diensten zum Zwecke des Austauschs dieses Materials zu bekämpfen. Da gibt es natürlich zahlreiche Datenschutzbefürchtungen von Experten. Teilweise wird darüber gesprochen, dass somit (verschlüsselte) digitale Kommunikation tot wäre, des Weiteren wird die AI, die entsprechende Inhalte – zu denen wohl auch Text gehört – finden soll, wohl nicht perfekt arbeiten. Interessant dazu ist auch der Twitter-Thread von Matthew Green, Kryptograph und Professor an der Johns Hopkins University.
Wird geladen ...
CSAM Alert! Die angehängte Datei „Scorpions-Virgin-Killer-Album-Cover.jpeg“ enthält vermutlich illegales Material. Wenn Sie die Nachricht trotzdem versenden, wird eine Kopie davon an Internet Watch zur Überprüfung weitergeleitet. Das kann eventuell strafrechtliche Folgen für Sie haben. [[Senden abbrechen]] Trotzdem senden
Das wäre ja noch vertretbar gewesen, weil man als User ein Vetorecht hat. Aber das mit Text auf Grooming zu untersuchen, das geht zu weit und ist nicht mit den Grundrechten vereinbar.
Ich kann mir einfach nicht vorstellen, dass Messenger – die oft über eine Rufnummer eindeutig personalisiert sind – wirklich ein relevanter Verbreitungsweg für solches Material sein sollen.
Von daher kann ich mir schon vorstellen dass hier mal wieder mit dem Totschlagargument CSAM ein neuer Angriff auf Verschlüsselung aalgemein gestartet werden soll. Niemand kann ja wirklich dafür sein, dass Kinderschändern nicht das Handwerk gelegt wird. Das Ganze kommt aber komischerweise zu einer Zeit (+ normale Politik-Reaktionszeit) in der E2E verschlüsselte Messenger endgültig Email und SMS, bei denen sich Verschlüsselung nie durchgesetzt hat, als Hauptkommunikationsmittel ablösen.
Glücklicherweise gibt es mit XMPP/Matrix quelloffene Alternativen, sodass man für seine legitime schützenswerte Kommunikation auch weiterhin ohne staatlichen Zugriff führen können wird. Es wird halt wieder ein wenig nerviger, insbesondere für technisch-unbedarfte Nutzer.
*allgemein
Geht gar nicht! Und es ist das übliche Vorgehen: erst ist es der (vermeintliche) Kampf gegen KInderpornografie, dann Terrorismus, dann andere „schwere Verbrechen“. Parallel scharren die Rechteinhaber mit den Hufen und am Ende hat man eine eine Bespitzelungs- und Zensur-Infrastruktur aufgebaut, von der zukünftige, möglicherweise autoritäre Machthaber jetzt schon träumen.
„Wo ein Trog ist, sammeln sich die Schweine“, diesen Satz der Richter des Bundesverfassungsgerichts, sollte niemand vergessen.
Word!
Dem kann ich nichts mehr hinzufügen – alle meiner Bedenken hat Jack68 auf den Punkt gebracht.
Und Grumpy Niffler hat ebenfalls Recht: über die üblichen Verbreitungswege Mail/Messenger werden allenfalls Unbedarfte geschnappt; darüber hinaus wird es eine hohe Zahl von ‚False-Positives‘ geben; also Falsch-Warnungen, die dann aber gerne mal zum ungebetenen Staats-Besuch in den frühen Morgenstunden führen kann.
Hier werden dem Bespitzelungsapparat Tür und Tor für weitere Aktionen geöffnet und ist mit den Grundrechten nicht vereinbar!
Leute, wacht endlich auf. Ständig „Aber die Grundrechte…“ zu postulieren bringt nichts, wenn im Prinzip dann nichts mehr kommt. Weder das eigentliche Problem wird angesprochen noch irgendwie konstruktiv an einer Lösung (mit)gearbeitet. Wir profitieren nicht nur von der technologischen Entwicklung, wir müssen uns endlich auch offen mit den Schattenseiten dieser Entwicklung beschäftigen. Ja, die gibt es, aber im Moment wird das Thema durch diese Abwehrreflexe eben nur durch die „Law-and-Order“-Fraktion bestimmt und besetzt – wenn man die Politiker und die Behörden im Regen stehen lässt, wie sie das Problem lösen sollen und eine Diskussion mit dem Verweis auf Grundrechte verweigert, dann darf man sich nicht wundern, wenn die nur auf eine Seite hören.
Wir brauchen keine „Lösung“. Der derzeitige Status ist völlig ausreichend. Illegales Material wir offline erstellt, das Geld fliesst ganz normal wie alle anderen Finanztransaktionen auch, und somit gibt es auch verfolgbare Lieferketten.
Was in der Tat nicht funktioniert, sind die Behörden: Es wird nicht gehandelt. Es wird zu spät gehandelt. Material wird nicht aus dem Netz genommen. Es wird eingestellt, verschleppt, vertrödelt.
Das ist aber erstmal kein KiPo-Problem, sondern ein generelles. Von Falschparken über Fahrraddiebstahl bis zur Kleinkriminalität wird GARNIX mehr so richtig verfolgt. Vom BugCrime der Banken und Broker gar nicht zu reden.
Insofern würde ich sagen: Wir brauchen keine neuen Gesetze. Wir brauchen, dass etliche Behörden mal so richtig durchgefegt werden. Dann geht es auch den KiPo-Tätern an den Kragen, auf Basis des bestehenden Rechts. Und ohne (m.E. gewollte!) Kollateralschäden. Die interessieren sich nicht für KiPo, sondern für eine Schnorchel-Schnittstelle für ALLES.
Ja, genau diese Art „konstruktiver“ Ratschläge sind es, die ich meinte – eigentlich gibt es das Problem garnicht, aber das Problem (das es ja nicht gibt) kann gelöst werden (also von irgendjemand, irgendwie, wenn irgendjemand nur seine Arbeit machen würde), aber es sind ja eh alle nur am Spionieren interessiert. Danke für die Hilfe…
Tolle Nummer ,Kleinkriege wg. der Netzneutralität ( Streamon etc.) mit der Bundesnetzagentur im Boot und dann kommt eine Voratsdatenspeicherung durch die Hintertür.
Das wird spannend.
Mach irgendwas mit Kindern oder Terrorismus und die Mehrheit wird zu beschämt sein um dem Abgreifen ihrer Daten zu wiedersprechen. Ich erinnere mich noch an die Meldung das „Alexa einen Mord aufgeklärt hat“, in dem sie zufällig ein Gespräch im Schlafzimmer der Leute mitschnitt. Vielleicht sollte das ganz offiziell gefordert werden werden. Ich meine, wenn wir damit einen Mord verhindern können macht sich doch jeder verdächtig der das nicht wünscht. Oder?
Wer sich so dagegen sträubt und gegen solche Maßnahmen ankämpft, unterstützt damit zwangsläufig das andere – ob gewollt oder auch nicht.
Bin am überlegen, ob das Sarkasmus/Ironie sein soll. Glaube aber, das ist ernst gemeint. Also: So ein Humbug!
Richtig erkannt, ich habe das tatsächlich ernst gemeint.
Das Wort „unterstützen“ finde ich in diesem Zusammenhang nicht angebracht.
Die Frage ist doch, wie wir leben wollen. Ich möchte nicht in einer Gesellschaft leben, in der jedes gesprochene oder geschriebene Wort auf juristische oder gar moralische Konformität überwacht und ausgewertet wird.
Vielleicht ist dieses Wort in dem Kontext etwas unglücklich, aber deshalb habe ich ja auch hinzugefügt, dass das auch ungewollt geschieht oder geschehen kann. Aber dennoch geschieht es.
Was die Frage angeht, wie wir leben wollen, kann man darüber natürlich weitreichend diskutieren und es gibt dazu sicher viele verschiedene Meinungen. Ich jedenfalls möchte nicht in einer Welt leben, in der Straftaten nicht aufgeklärt werden können, nur weil der Datenschutz dagegen spricht.
Komm doch erst mal in der Realität und bei den wirklichen Problemen bei der Aufklärung von Straftaten an. In der Regel ist es nicht der Datenschutz, sondern die mangelnde Ausstattung der Strafverfolgungsbehörden an Personal, Kompetenz und Technik, die das verhindert. Wenn man hier mal angemessen reagiert, braucht man auch keinen Generalschlüssel zur Überwachung der Kommunikation sämtlicher Bürger, der schließlich einen erheblichen Eingriff in die Grundrechte darstellt und nicht pauschal mit der möglichen Aufklärung von Straftaten zu rechtfertigen ist.
Ich in durchaus in der Realität und mir ist natürlich auch klar, dass auch an anderer Stelle vieles verbesserungswürdig ist. Aber dennoch erlebe ich jeden Tag, dass es *auch* der Datenschutz ist, der vieles erheblich erschwert und auch verhindert, nicht nur im Bereich der Aufklärung von Straftaten.
Wie gesagt, mir ist schon klar, dass ich mir hier mit meiner Meinung keine Freunde mache. Aber für mich ist die Aufklärung von Straftaten, insbesondere in dem hier angesprochenen Bereich, deutlich wichtiger als der Datenschutz.
Aristoteles: „Wer Sicherheit der Freiheit vorzieht, bleibt zu Recht ein Sklave.“
„Wer die Freiheit aufgibt, um Sicherheit zu gewinnen, wird am Ende beides verlieren.“ (Benjamin Franklin)
Klar. Gibt ja auch nichts anderes, das man dagegen tun könnte…
Bei deinem Kommentar tut einem echt alles weh.
Wenn Dir dabei alles weh tut, liegt das aber an Dir. Ich weiß, dass meine Meinung nicht unbedingt populär ist, gerade nicht hier in diesem Rahmen, aber ich bin damit auch nicht alleine. Und natürlich gibt es auch was anderes, was man machen könnte. Auch, aber auch sowas wäre ein Baustein, den man m.E. nicht einfach völlig verwerfen sollte.
Aha. Und wenn du in deinem Haus eine Spinne findest, brennst du auch das ganze Haus ab oder wie?
Ich denke nicht, dass das wirklich vergleichbar ist.
Doch der Vergleich ist sehr treffend.
Ich frage mich ganz ehrlich wie man zu der Einschätzung kommt, dass die Überwachung sämtlicher Kommunikation verhältnismäßig ist. Inklusive kollateraler Schäden durch false-positives, inklusive keiner Lösung des Problems. Es werden dann einfach andere Wege genutzt.
Wenn man das denkt, dass es ok ist, dann sollte man auch dafür sein dass sämtlicher privater Wohnraum permanent überwacht wird. Ich sehe da keinen Unterschied.
Sehr gerne mehr Polizei, mehr Geld in den Bereich pumpen, aber keine Abschaffung des Rechtsstarts und der modernen Zivilisation.
Also sorry, aber das ist doch wirklich Zweitsemesterphilosophie.
Das ganze Argument fußt auf einem super konstruierten ankämpfen/unterstützen Gegensatzpaar, das die Welt mit breitem Pinselstrich in zwei letztendlich nutzlose, weil zu allgemeine Gruppen teilt.
und auch so mega unintuitiv. Die meisten Sachen sind den meisten Menschen einfach egal. Ob das in Konsequenz zu Unterstützung führt.. naaaaja.
Wenn in China ein Sack Reis umfällt und ich es nicht bekämpfe hab ich es trotzdem nicht unterstützt.
Ja, in der Konsequenz führt das zu Unterstützung, wenn auch ungewollt. Ich räume gerne ein, dass das Wort dabei nicht optimal gewählt ist, aber ich denke, was ich damit sagen wollte, ist klar.
Ich glaube es ist klar, was damit gemeint war. … und nein, das kann man so eigentlich nicht behaupten.
Ich unterstütze den Sack Reis in China nicht beim umfallen, bloß weil ich es nicht bekämpfe.
Das ist keine plausible Behauptung und sehr voraussetzungsreich.
Du willst damit sagen, dass dir jedes Mittel recht ist um Straftaten aufzuhalten. Dass in diesem Fall das Mittel erwiesenermaßen überhaupt nicht wirksam ist und dir im Endeffekt nur selbst schadet, siehst du nicht.
Weil digitales offenbar zu abstrakt für dich ist: Was du verlangst ist das gleiche, als würde die Regierung in jedem (auch deinem) Haus Wanzen und Kameras installieren um die Bevölkerung abzuhören, mit der Begründung, Terrorismus und Kindesmissbrauch zu verhindern.
Woran das erinnert und was die Maßnahme für Terroristen und Kinderschänder, die Überwachung zu umgehen ist, sollte klar sein.
Falls nicht, ist dir nicht mehr zu helfen.
Zum einen sage ich nicht, dass mir jedes Mittel recht ist, zum anderen sehe ich tatsächlich nicht, wo mir das schaden würde. Und genau das ist ein wesentlicher Punkt. Diskussionen wie diese sind ja nicht neu, und noch nie konnte jemand plausibel erklären, worin konkret der Schaden besteht.
Also ohne mir die Vorwürfe des Vorposters aneignen zu wollen, aber an Konsequenzen gekoppelte Kontrolle ist für sich genommen, selbst ohne einen einzigen Eintrittsfall, eine Machtverschiebung weg vom Subjekt der Kontrolle.
Da lässt sich vielleicht kein unmittelbarer Schaden quantifizieren, das stimmt. In der wissenschaftlichen Analyse von Machtdynamiken ist das aber leider der Regelfall.
Dir fehlt offensichtlich die Fantasie, um den konkreten Schaden erkennen zu können. Möglichkeiten, Dir direkt zu schaden, gäbe es unter diese Voraussetzungen enorm viele. Und sei es nur, Dir ein paar verfängliche Dateien zu senden, um Dich zu „swatten“.
Viel entscheidender ist jedoch: Diejenigen, die man (vorgeblich) damit erwischen will, wird man so nicht erwischen. Die tummeln sich ganz woanders und werden über diese Maßnahmen lachen. Stattdessen wird mit dieser Maßnahme JEDER EINZELNE unter Generalverdacht gestellt. Private Kommunikation muss privat bleiben und darf niemals allgemeingültig einer theoretischen Strafverfolgung geopfert werden. Die Hürden einer solchen Überwachung von Einzelpersonen sind aktuell (theoretisch) relativ hoch – mit dieser Maßnahme entfallen sie im Grund komplett. Zudem werden hier Privatunternehmen zum Erfüllungsgehilfen für die Strafverfolgung verpflichtet, per se keine gute Idee.
Und wenn das alles nicht genügt: Wer garantiert, dass nicht in den nächsten Jahren eine Partei an die Macht gerät, die diese dann vorhandenen Überwachungsmöglichkeiten nutzt, um Gegner (mund)tot zu machen? Schon vergessen, wie viele Personen mit mindestens fragwürdiger Gesinnung in letzter Zeit so bei den Strafbehörden entdeckt wurden?
Bei all dem sollte darüber hinaus auch nicht unerwähnt bleiben, dass die technischen Mittel dafür gar nicht vorhanden bzw. nicht ausgereift genug sind, um das zu leisten, was da erwartet wird. False positives können hier unter Umständen Familien oder auch Leben zerstören. Du kennst ja sicher die Einstellung der Mehrheit „Wenn die Polizei ermittelt, dann wird schon was dran sein…“. Und schon darf man sich eine neue Wohnung suchen, weil die Nachbarn ja genau wissen, was für ein schlimmer Mensch man doch ist.
Deine Einstellung dazu ist mindestens blauäugig.
*Strafverfolgungsbehörden (vorletzter Absatz, letzte Zeile)
Minority Report lässt grüßen.
Heute 14:00 findet vor der Vertretung der EU-Kommission, Unter den Linden 78 in Berlin-Mitte, eine Demo statt.
Mal sehen, ob darüber berichtet wird.
Warum kommt von der EU eigentlich nur noch Scheiße?
Wie wäre es, wenn die Behörden zunächst mal ihrer Verpflichtung zum Löschen von identifizierten Quellen von solchen Bild- und Videodateien nachkommen würden. Schaut euch mal die öffentl-rechtliche Sendung Panorama an, welche über die Recherchen und Nachlässigkeiten berichtet. Ursprung ist STRG_F :
https://www.youtube.com/watch?v=iItLpwkQMUQ&t=5s
Beim Verfolgen ist man wohl schnell dabei, aber beim Löschen hängt es nicht an den Providern/Seitenbereibern, sondern am Unvermögen von staatlichen Institutionen. Vielleicht braucht man aber auch nur eine Begründung um die rechtlichen Rahmenbedingungen zu schaffen, damit die EU Gesetzgeber sowas durchdrücken können (daher erstmal nicht löschen lassen und auf die Statistik zeigen).
Rechte beschneiden um Rechte zu erhalten?! Finde ich fragwürdig. Für mich ist die Erziehung und der Schutz von Kindern Aufgabe der Eltern. Wenn sie so etwas finden, gehen sie zu den Behörden. Diese leiten Maßnahmen ein. Den Rest unter Generalverdacht im Namen des Jugendschutzes zu setzen ist nicht richtig. Das wird sich nicht ändern, solange diese „ich habe doch nichts zu verbergen“- Mentalität existiert.
für mich eigentlich klar: unter einem vorwand die infrastruktur schaffen, und dann „uppps“ haben wir jetzt doch für andere dinge im einsatz. erst freiwillig, dann pflicht.
Ja, so ist es. Ich prophezeie schon seit langer Zeit, dass solche Maßnahmen unter einem der üblichen Vorwände eingeführt werden. Kinderpornografie und Terrorismus gehören zum Beispiel dazu.
Aber eine Frage zum Artikel: warum ist damit die verschlüsselte Kommunikation am Ende? Gerade dann ist diese doch sinnvoll und angebracht. Und auch verschlüsselte Daten kann man scannen. Man findet lediglich nichts.