Apple verschiebt Plan, iPhone-Inhalte auf CSAM zu untersuchen

Apple hat US-Medien gegenüber mitgeteilt, dass man das lokale Scannen von Bildern auf CSAM (Child Sexual Abuse Material), die für den iCloud-Upload vorgesehen sind, verschieben werde. Eine Einführung war mit iOS 15 in den USA geplant.Letzten Monat haben wir Pläne für Funktionen angekündigt, die dazu beitragen sollen, Kinder vor Belästigern zu schützen, die Kommunikationstools nutzen, um sie auszubeuten, und die Verbreitung von Material über sexuellen Kindesmissbrauch einzuschränken“, so das Unternehmen in einer Erklärung. „Aufgrund des Feedbacks von Kunden, Interessengruppen, Forschern und anderen haben wir beschlossen, uns in den kommenden Monaten mehr Zeit zu nehmen, um Anregungen zu sammeln und Verbesserungen vorzunehmen, bevor wir diese äußerst wichtigen Funktionen zum Schutz von Kindern freigeben.

In diesem Artikel sind Partner-Links enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Danke für eure Unterstützung!

Gefällt dir der Artikel? Dann teile ihn mit deinen Freunden.

Hallo, ich bin Carsten! Ich bin gelernter IT-Systemelektroniker und habe das Blog 2005 gegründet. Seit 2008 ist es Beruf(ung). Baujahr 1977, Dortmunder im Norden, BVB-Fan und Vater eines Sohnes. Auch zu finden bei Twitter, Facebook, Instagram und YouTube. PayPal-Kaffeespende. Mail: carsten@caschys.blog

Neueste Beiträge

Mit dem Absenden eines Kommentars stimmst du unserer Datenschutzerklärung und der Speicherung von dir angegebener, personenbezogener Daten zu.

91 Kommentare

  1. Immerhin ein Lichtblick, auch wenn ich befürchte, dass man bei Apple nur die erste große Empörungswelle abflauen lassen möchte…

  2. Zu spät.
    Ich habe die Petition der EFF mitgezeichnet (https://act.eff.org/action/tell-apple-don-t-scan-our-phones).

    Das iPhone 8 wird aber mein letztes iPhone gewesen sein. Mich nervt da ohnehin der schwache Akku und bei den neueren Modellen die überaus saftigen Preise für das gebotene Gesamtpaket.

    Daher habe ich mir gedacht, wenn ich mich schon ausspionieren lasse, kann ich das auch zu günstigeren Preisen tun lassen. Samsung Galaxy A52s ist bestellt.
    Da bekomme ich (durch Aktionspreis für ne Ecke unter 400 Euro) für deutlich weniger als den Preis eines iPhone SE 2020 ein Paket, das man sonst vergleichbar erst mit dem iPhone 12 erhält – für über 800 Euro.

    • Es geht doch nur um die Fotos die in die iCloud geladen werden. Schlussendlich kann niemand sagen was mit Fotos in der Cloud passiert. Theoretisch haben Mitarbeiter des Unternehmens Zugriff darauf. Bisher wurden Berechtigungen immer in irgendeiner Form missbraucht, trotz Schutzmechanismen.

      Wenn Apple anfängt die lokalen Fotos zu scannen, dann bin ich das iPhone auch direkt los, obwohl ich es eigentlich 5 Jahre nutzen möchte. Zumal ich es erst seit 1 Jahr habe. Trotz der saftigen Preise bekommt man bei Apple für die Laufzeit das beste P/L. Wird der Preis auf 5 Jahre Nutzung runtergerechnet, dann ist mein iPhone 12 günstiger.

      Den Preis für das Pixel 2 XL habe ich im Nachgang als Scam empfunden. Natürlich bin ich nicht zu 100% glücklich mit iOS. Jedoch muss man immer irgendwo Abstriche machen und damit kann ich mich arrangieren.

    • Hahaha, ich wette kann diejenigen, die wegen ähnlichen Spargedanken reumütig zurückkehrten, inzwichen in Millionen zählen

    • Hallo Robert, wäre ich nicht auf den Screenreader VoiceOver angewiesen hätte ich vielleicht auch spätestens mit Aufkommen der Apple-Pläne zur Datei-untersuchung auf meinem gerät einen Wechsel zu einem Gerät mit anderem OS ins Kalkül gezogen. leider ist da Android mit TalkBack immer noch nicht so weit wie iOS, auch wenn die schon mächtig aufgehohlt haben. Wobei zugegeben einige elemente der objekteerkennung in Bildern auf dem iPhone mir auch wieder nützen , es könnte sein daß bald bilder noch viel detaillierter über die Sprachausgabe beschrieben werden können – und das auch ohne cloud-dienste. Da wird mir dann „am eigenen Leibe “ vorgeführt wie „janusköpfig“ ein und dasselbe Funktionsprinzip sein kann.

  3. Genau lesen!

    Es wird eben nichts verschoben, die Mutter aller Trojaner ist und bleibt Bestandteil von SpyOS 15 und wird irgendwann freigeschaltet.

    Jeder, der das neue OS installiert hat dann keinen Weg zurück aus der später folgenden Totalüberwachung.

    Man will damit lediglich das Weihnachtsgeschäft retten. Im Februar wird es dann scharfgeschaltet.

    • Ja und. Als ob die vorher nicht schon überwachen konnten genau so wie jeder andere Hersteller. Man kauft hier ein Gesamtproduktion eines Herstellers. Man ist ihm komplett ausgeliefert. Jeder der damit ein Problem hat, kann es akzeptieren oder sich sein eigenes System kompilieren…alles andere ist Selbsttäuschung von konteolle

    • Nein. Ich bin überzeugt, dass sich Apple unterdessen wünscht, sie hätten diese Funktionen nie angekündigt – oder auch nur entwickelt. Der Ruf ist mehr als nur ein wenig angekratzt.

  4. Zu spät, ich bin bereits stocksauer. Mit dieser Aktion und dem verdammte Gendern auf der Website, in ihren Programmen und Apps (!) hat Apple bei mir jeden Sympathie-Bonus verspielt.

    Ich kann zwar nicht wechseln, weil ich Windows abgrundtief schlecht finde und das iPhone nunmal das beste Smartphone ist. Aber darüber hinaus kann mir Apple den Schritt schamponieren. Alle Dienste mit Ausnahme des iCloud-Speicherplatzes wurden gekündigt.

    Und zum Apple-Sprech: Natürlich kann man einen grenzenlosen Shitstorm als “Feedback” bezeichnen. 😉

  5. Das wird hoffentlich im Sande verlaufen. Hätte nicht gedacht, dass sie nochmal zurück rudern.
    Da muss mehr als ein Shitstorm auf Apple eingeprasselt sein und jemand – Aktionäre? – ordentlich Druck gemacht haben.

    Guten Gewissens kann man kein Smartphone aktuell nutzen. Klar, so Späße wie CalyxOS sind eine brauchbare Alternative, wenn dann aber Banking App XY nicht funzt, die Kamera nur noch Grütze ist, dann brauche ich das auch nicht mehr und kann gleich dein Dumb Phone nutzen.

    Ich wechsel bald wieder auf ein iPhone, iCloud werde ich aber nicht mehr nutzen. Geplantes Apple One Abo fällt damit ohnehin flach.

    Alles in allem haben die großen Drei, Amazon, Apple und Google viel zu viel Macht. Wird Zeit, dass hier mal was passiert.

    • Es wird nicht im Sande verlaufen, wie die Uhren von Salvador Dali.

    • Bei Calyx in der Standardconfig mit micro g funzen die banking apps. Und du kannst dir jede kostenlose APP aus dem Playstore ziehen. Sogar Google maps und Google camera funktionieren. Da muss halt jeder seine eigene Grenze definieren.

  6. Mylio ist für Bilder eine Klasse Alternative zu Apple/Google Cloud Shizzle 😉

    • Ein Synology mit Photostation kostet keine 10€ im Monat dafür, dass ich meine Fotos eh selbst hoste.

      • Ich gebe dir recht, dass das viel zu teuer ist. Allerdings entspricht der Funktionsumfang von Synology Photos ungefähr 15% von dem der App Mylio. Also nicht wirklich vergleichbar. Aber wenn dir das reicht ist das ja fein.

        Und wenn du die Kosten einer NAS plus Platten runter rechnest, dann kommst du easy auf 10 Euro pro Monat für vier Jahre. Und das mit nur kleinen Platten. Bei größeren sind es dann schon fast 6 Jahre ;P

  7. Peter Traurig says:

    Vom Scannen von Bildern kann man halten was man will, aber dieser Widerstand gegen einen Mechanismus, der ohne menschilches zutun Kinderpornografie entdecken und den Besitzer somit auffliegen lassen kann, wirft ein komisches Bild auf die Protestler. Ihr impliziert damit, dass Euch Eure Bilder wichtiger sind, als die Kinderpornographie und damit Leid an Kindern einzudämmen. Noch dazu bleibt immer ein fader Beigeschmack, wenn jemand nicht will, dass sein Handy nach solchen Inhalten durchsucht wird.

    Menschen nutzen aus Bequemlichkeit Face- und Touch-ID, aber beim durchsuchen der Bilder aller Handys nach Kinderpornos schreien alle nach mehr Datenschutz???

    • Du hast das Problem echt nicht verstanden. Aber das wurde so häufig in allen Medien erläutert, dass ich mir bestimmt nicht die Mühe mache, es dir zu erklären.

      • Ich hab’s dann echt nicht verstanden. Was ist so kritisch daran, dass es wichtiger ist, als der Schutz unserer Kinder vor Missbrauch, der alltäglich stattfindet? Wo vor habt ihr denn alle Angst? Bitte, erklärtes mir, ich möchte es gerne verstehen.

        • Der Schutz der Kinder ist sehr wichtig. Um so wichtiger ist es, einen wirksamen Schutz zu etablieren.
          Wenn Fotos auf dem iPhone gescannt werden, sind die bösen Buben die Ersten, die diese Plattform verlassen, sofern sie sie überhaupt benutzen. Die Wirksamkeit dieser Maßnahme ist also durchaus umstritten.
          Übrig bleibt dann nur ein Einfallstor für übermütige Politiker, man könne ja auch nach nach anderen Dingen scannen.
          Übrigens ist so ein Totschlagargument ala „Wenn nur ein Kind gerettet wird…“ äußerst gefährlich. Dann wäre es auch naheliegend einfach alle Männer auf dieser Welt zu entfernen….
          … Wenn nur ein Kind gerettet wird.
          Du siehst (hoffentlich) dieses Argument lässt sich für alles missbrauchen ohne wirklich Sicherheit für Kinder zu schaffen (siehe oben).
          Mit der gleichen Argumentation wird so einiges im Kampf gegen den Terror legitimiert. Und dagegen kann man ja wohl auch nichts haben.

          • Dieses Einfallstor erschließt sich mir nicht. Mal angenommen, Apple würde es dafür öffnen – denn das müssten sie tun – nach was meinst du sollten diese übermütigen Politiker scannen wollen? Also welches Interesse könnten die Politiker haben, dass ein „Ausnutzen“ wie du es nennst überhaupt möglich wäre? Außer Terrorabwehr fällt mir nichts ein… für deine Urlaubsbilder interessiert sich bestimmt niemand…

            Ich bin durchaus jemand, dem Datenschutz wichtig ist und auch einige Dienste meidet. Aber ich wette, dass viele die hier schreien sich bei anderen Dingen überhaupt keine Gedanken machen. Schön mit Paypal zahlen, Facebook nutzen, google Dienste wie gmail, etc. pp. Und die jammern hier jetzt, weil es um ihre Bilder geht und einige verstehen vermutlich nicht einmal, wie das ganze funktioniert… Sorry, aber das geht mir echt auf den Wecker.

            Wenn man außerdem jede Maßnahme mit dem „Totschlagargument“ versucht totzuschlagen dann können wir das alles gleich ganz lassen. Jede Maßnahme wird Kritiker hervorrufen. Wirklich jede. Wollen wir deswegen zulassen, das gar nichts unternommen wird? Ist das dann der richtige Weg?

            • Hallo Sascha, nein „Wollen wir deswegen zulassen, das gar nichts unternommen wird? “ das will ich auch nicht. Aber wer sagt daß Polizeiarbeit, Strafverfolgung auf Kosten des Schutzes der Privatsphäre möglichst einfach , leicht und mit wenig aufwand funktionieren muß? Nimmt man die Unschuldsvermutung ernst, gibt es eine klare Reihenfolge: Anfagsverdacht, Ermittlung, Vorlage der Ergebnisse bei einem Richter, und der ordnet dann maßnahmen wie Unteersuchung von Wohnung, dokumenten , TKÜ-Überwachung an. _So funktioniert Rechtsstaat. Das was hier mit dem „Kinderschutz“-Argument eingeführt werden soll ist nicht mehr und nicht weniger als eine _anlaßlose_ Überwachung aller Menschen. Das hat als Instrument der Strafverfolgung in einem Rechtsstaat nichts zu suchen. Auch nicht wegen deer schlimmsten Straftaten. Ja, es gibt einen „Preis der Freiheit“. Wer in einem rechsstaat leben will muß bereit sein ihn zu zahlen. Und nein dieser Preis ist nicht Straftäter einfach machen zu lassen. Dieser Preis ist : mehr und besser ausgebildete und ausgestattete Strafverfolgungsbehörden, mehr sensibilisierung der Öffentlichkeit und Familien für dieses spezielle thema und letztlich vielleicht auch eine Familienpolitik die es erlaubt daß es z. B. wieder Familien gibt in denen Kinder nicht mit einem umgehängten Schlüssel in eine leere Wohnung zurückkommen sondern daß nach Hort oder Schule jemand da ist dem sie vertrauen und sich anvertrauen können. Der eerkennt wenn sie verstört wirken und sich ihrer annimmt. Also : alles tun damit Eltern nicht gezwungen sind beide einen 8-Stunden -Tag hinzulegen nur um für Wohnung, kleidung Essen usw. zu sorgen. Das geht dann weit übeer Strafverfolgung und teechnische Lösungen hinaus. Veerhindern von kindesmißbrauch ist eine gesellschaftliche auffgabe und kann nur ddurch ein breites Maßnahmenbündel bekämpft werden. Kommissar KI der Smartphones durchsucht ist nicht mehr als „wei´ße Salbe“, ein Placebo, das beeruhigen soll und es weiter möglich macht sich um notwendige Änderungen unserer Sicht auf Kinder und Familie herumzudrücken. Und das alles um den Preis der teilweisen Aufgabe rechtsstaatlicher Prinzipien.

            • Bist du wirklich so grenzenlos naiv oder tust du nur so? Deutschland mit seiner ebenfalls möglicherweise nur temporär installierten Demokratie (wir hatten da schon mal sowas in der Vergangenheit) ist beileibe nicht das einzige Land auf der Welt. Mach dich vielleicht mal auf den langen beschwerlichen Weg hin zu deinem Tellerrand.

              Dann würdest du vielleicht mal sehen, dass du dich auf einer Trauminsel in einem Ozean voller Haie befindest. Die meisten Regierungen sind korrupt und täten nichts lieber, als ihre missliebigen Kritiker zu entfernen. Und Apple macht auch an anderer Stelle, was diese Regierungen verlangen, nur um den Marktzugang nicht zu verlieren. Man nennt das dann „Befolgung der lokalen Gesetze“. Da werden dann Apps, mit denen sich bspw. Demonstraten in Hongkong geschützt haben, einfach aus dem Appstore entfernt. Inwiefern bist du der Meinung, dass solche neuen für Spionage geeigneten Schnittstellen keine weiteren Begehrlichkeiten wecken?

              Und wenn du mir jetzt noch erläutern könntest, inwiefern durch diesen neuerlichen Eingriff in unser aller Privatsphäre auch nur ein einziges Kind faktisch vor Missbrauch geschützt werden kann, wäre ich dir sehr dankbar! Meines Erachtens muss man da nämlich an ganz anderen Stellen ansetzen. Und was mir persönlich inzwischen ziemlich auf den Wecker geht, sind die ständigen und unqualifizierten Rufe nach mehr und mehr Überwachung. Zumeist sind es nämlich genau diese Kasper, die hier die Totschlagargumente bemühen. In diesem Sinne einen schönen Tag noch!

              • Ich bin jederzeit offen für eine sachliche Diskussion. Aber wenn man Leute mit anderer Meinung über ein Einzelthema als Naiv und Kapser beschimpft zeigt mir, dass mit jemanden wie dir eine sachliche Diskussion zu einem umstrittenen Thema nicht möglich ist. Du hast deine Meinung, dass wir damit scheinbar unsere rechtsstaatlichen Werte allesamt aufgeben und kurz vor einer erneuten Diktatur und Überwachungsstaat stehen. Zumindest klingen die Argumente immer danach. Ich sage, Mann muss auch mal über seinen eigenen Tellerrand schauen und abwägen. Es gibt eben nicht nur schwarz und weiß.

                • Mein lieber Sascha, du hast doch damit angefangen, dass dir die Einstellung der Gegenseite „echt auf den Wecker“ geht.
                  Und ich finde es eben im Gegenzug reichlich naiv, wenn man glaubt, dass eine solche Schnittstelle nicht bei den verschiedenen Regierungen dieser Welt entsprechende und für den Einzelnen durchaus gefährliche Begehrlichkeiten weckt. Außerdem ist es naiv anzunehmen, dass Apple diesen Begehrlichkeiten nicht nachkommt, wenn der Marktzugang zu dem entsprechenden Land auf dem Spiel steht.

                  Ich habe auch keinesfalls behauptet, dass wir hier „kurz vor einer erneuten Diktatur und Überwachungsstaat stehen“, schließe aber mögliche Wechsel und Machtübernahmen in KEINEM Land kategorisch aus. Nicht einmal in Deutschland wäre ich so verwegen, mich dauerhaft in Sicherheit zu wiegen, denn ich kann dir sagen: diese neuen Rechten beispielsweise, die da in Gestalt von AFD & Co. daher kommen, dass sind echte Wölfe im Schafspelz. Lasst ihr solche Leute einmal richtig an die Macht, dann habt selbst ihr wenig zu lachen. Und die immer weiter fortschreitende Überwachung infolge der Computertechnik spielt solchen Machthabern dann natürlich in die Hände.

                  Was glaubst du wohl, warum sich israelische (und sicher auch deutsche) Überwachungssoftware so gut in bestimmte Länder verkauft? Warum kaufen das die Saudis, Russen usw. und spielen das auf die Smartphones ihrer politischen Gegner? Weil sie diese Leute „babysitten“ und „verhätscheln“ wollen? Falls du es noch nicht mitbekommen hast: In Russland fällt gerne mal ein missliebiger Journalist „versehentlich“ vom Balkon. Die Verwandtschaft von Nawalny, Kashoggi & Co. freut sich sicher riesig über weitere Überwachungsschnittstellen auf ihren Handys! Naiv ist beileibe noch ein sehr sanftes Wort für das, wofür ich Leute mit deiner Argumentation wirklich halte …

                  Der Hersteller eines Betriebssystems hat mir ein Werkzeug zu liefern, mit dem ich meine Arbeit machen kann. Er ist kein Strafverfolger und hat keinerlei Befugnis, auf meinem System irgendwelche Schnüffeleien anzustellen. Wenn er das auf der von ihm betriebenen Cloud macht – von mir aus. Die muss ich ja nicht nutzen. Ich dachte aber immer, gerade bei Apple hätte man das verstanden. Wenn Leute wie du das partout nicht verstehen wollen (und ständig mit dem Totschlagargument „KiPo“ kommen), ist das eine Sache. Wenn aber Apple nun auch auf diesen Zug aufspringt und sich dazu ermächtigt, auf meinem eigenen Gerät herumzuschnüffeln, dann muss ich davon ausgehen, dass diese ihre Aufgabe und ihr Geschäftsmodell wohl doch nicht verstanden haben. Und das macht mir nicht nur als Nutzer, sondern auch als Apple-Aktionär schwer zu schaffen.

                  Was ist eigentlich mit Brief- und Telefongeheimnis sowie der Vertraulichkeit der Kommunikation und Unversehrtheit EDV-technischer Anlagen? Wollt ihr wirklich, dass das alles nach und nach aufgeweicht wird, weil da draußen natürlich auch ein paar Kriminelle herumlaufen? Ernsthafte Diskussionspartner seid ihr sicher nicht, wenn das euer Ziel ist. Ich empfehle dringend, einmal die Meinung von Sicherheitsexperten zu dem Thema einzuholen.

        • Es wird nicht wirklich der Inhalt gescannt sondern nur der Hashwert des Bildes mit einer US Datenbank verglichen. Damit fängt man niemanden der die ekelhaften Bilder erstellt sondern nur welche, die solche Bilder im Speicher haben. Es reicht also, dass ich dir sowas schicke und dann steht die Polizei bei dir und nicht bei mir. Zudem kann man auch Bilder gezielt so erstellen, dass ein Bekannter hashwert erreicht wird. Das Bild schicke ich dir dann und nichtsahnend bist du auf der Pornoliste und wirst am US Flughafen bei der Urlaubseinreise eingekerkert. Man kann aber auch nach allemmöglichen suchen lassen, zum Beispiel Bildern, die wistle blower haben oder Bilder zu denen einem der zweite Teil fehlt um Industriespionage zu betreiben oder oder oder
          Man kann viel damit machen aber keine Pädophilen Knipser fassen

          • Jeder Satz ist unwahr. Das kommt raus, wenn man sich nicht direkt bei der Quelle informiert, sonder glaubt, was sich andere ausdenken.

            • Also der erste Satz stimme schon mal.
              Kalle, lass uns nicht dumm sterben und gib uns mehr Information.

            • Oliver Müller says:

              Jein. Der letzte Satz ist korrekt. Das ganze ist eine sinnlose Nebelkerze.

            • Na dann liefer mal einen Satz mit Inhalt. Bis jetzt erzeugst du nur heiße Luft.

              • > US Datenbank

                Die Datenbank kommt von NGOs aus zwei unterschiedlichen Ländern und es werden nur übereinstimmende Hashes aufgenommen.

                > Es reicht also, dass ich dir sowas schicke und dann steht die Polizei bei dir und nicht bei mir.

                Das reicht nicht. Jemand muss mindestens 30 Fotos schicken, deren Hashes mit Material in der CSAM-Datenbank übereinstimmen. Dann sieht sich ein Mitarbeiter das Material an. Zumindest eine „visuelle Representation,“ also eine Vorschau in Icon-Größe. Kein Mitarbeiter will sowas ständig sehen.
                Tipp: wenn jemand Kinderpornos schickt > Anzeige.

                > Zudem kann man auch Bilder gezielt so erstellen, dass ein Bekannter hashwert erreicht wird.

                Könnte man. Die Datenbank ist aber nicht öffentlich.

            • Der Forscher hat eine Perceptual Hashing-Funktion gebaut. Im Gegensatz zu einem Crypto-Hash, bei dem ein einzelnes geändertes Bit schon zu zwei unterschiedlichen Hashes führen würden, werden mit Perceptual Hashing geringe Nuancen in Farben nicht unterschieden. Das ist so gewollt, weil die Anzahl möglicher Kollisionen hoch sein soll, um zBsp ähnliche Bilder zu finden.

              Der Forscher kennt Apple’s Algorithmus nicht, behauptet aber, dass er ähnlich funktioniert.

              Der Forscher hat zwei Bilder gefunden, deren Hashes nach seiner eigenen Funktion kollidieren:
              https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX/issues/1

              Das eine „Bild“ besteht dabei fast nur aus ähnlichen Grautönen, um den Algo besser auszutricksen.

      • Leider haben fast 99% der Nutzer das Problem nicht verstanden.

    • Oliver Müller says:

      Was haben Face-ID und Touch-ID mit Datenschutz zu tun? Davon abgesehen, mein Handy durchsucht niemand nach irgendwas, daher nutze ich CalyxOS.

    • Apple regelt FaceID und TouchID immerhin vorbildlich und speichert die Daten nur lokal auf einem Chip. Von einem Unternehmen, das sich Datenschutz auf die Fahne schreibt, erwarte ich eigentlich, dass sie die Cloud in Zukunft verschlüsseln und nicht scannen. Der Preis des Datenschutzes ist nun mal zu hoch dafür, dass einige wenige Dumme gecacht werden. Das Gros, das sich in diesem kriminellen Milieu bewegt, wird iCloud deaktivieren. Mittelfristig wird sich das rumsprechen und der Gewinn dadurch genau null sein.

      • Also so wie ich das verstanden habe wird nicht das Bild in der Cloud gescannt sondern lokal über einen Abgleich eindeutiger Hash Werte bekannter Bilder mit entsprechenden Inhalt. Im Details handelt es sich um dieses Verfahren https://en.m.wikipedia.org/wiki/Private_set_intersection . Also: Lokal und Verschlüsselt. Bei der Verwendung von iCloud wird das Bild eh hochgeladen. Dazu kommt jetzt eine verschlüsselte Information über das Ergebnis des lokalen Abgleichs. Wo ist jetzt das Problem, übersehe ich was?

        • Apple hat also ein Verfahren gefunden, mit dem man Daten nach unliebsamen Inhalten scannen.
          Heute sind es Bilder mit pädophilen Inhalten.
          Morgen Dokumente mit Inhalten, die „regierungsfeindlich“ sind.
          Und was „regierungsfeindlich“ ist, legt im Zweifel nicht Apple fest.
          Es bleibt, was es ist, ein (gefährlicher) Dammbruch.

    • Die bereits ausgiebig geführten Diskussionen werden jetzt nicht noch einmal erneut für Dich geführt, weil Du geschlafen hast. Nur so viel: der Zweck heiligt nun einmal nicht jedes Mittel.

    • > Ihr impliziert damit, dass Euch Eure Bilder wichtiger sind, als
      > die Kinderpornographie und damit Leid an Kindern einzudämmen.

      Selbstverständlich ist das so. So schlimm Kinderpornografie auch ist, eine eklatante Verletzung des Rechtsstaates und das Eindringen von Firmen in die Privatsphäre IST schlimmer als Kinderpornografie.

      Die Dämme, die hier brechen würden, müssen um jeden Preis gehalten werden. Sie sind die Basis der Freiheit und Demokratie.

      • Hast du Kinder? Wenn denen so etwas passieren würde und man hätte es so verhindern können, würdest du dann noch genauso denken? Oder würdest du ihnen sagen: Sorry Kinder, aber Datenschutz ist aus Prinzip wichtiger als ihr… ohne jede Diskussion

        • Man hätte es mit der Apple Implementierung nicht verhindern können. Es wird nur nach bekannten Bildern gesucht

          • Keine Ahnung was solche Leute schicken und ob man das so pauschal sagen kann. Gehen wir mal davon aus, jemand hätte etwas geschickt das erkannt wird, vielleicht weil er (vielleicht ja auch sie um gendermäßig korrekt zu bleiben) hat das schon öfter geschickt und das Bild ist bekannt und man hätte es verhindern können. Was dann? Man kann ja beide Szenarien nicht ausschließen, also muss man davon ausgehen, dass es eben auch verhindert hätte werden können.

            • Wenn das Bild schon bekannt ist kannst du es nicht verhindern und auch nicht den eigentlichen Täter damit schnappen sondern nur Leute fangen, die bei der Verbreitung freiwillig oder unfreiwillig beteiligt waren. Auch solche Leute sollte man schnappen allerdings nicht auf jedem radikalen Weg sondern beim Verbreitungsweg.
              Ein Beispiel: jemand vergewaltigt systematisch zuhause Kinder. Diesen jemand muss und will man schnappen. Das kann und sollte man aber nicht mit allen erdenklichen Mitteln tun. Man kann also nicht absolut jedes Haus daher täglich ohne Ankündigung durchsuchen und jeden unter generalverdacht stellen sondern man muss die Täterzahl auf eine Verdachtszahl eingrenzen und dann kann man durchsuchen. Egal wie schlimm es ist, man kann daher nicht jedem generell seine Rechte nehmen. Und um bei dem Beispiel zu bleiben, wenn es bekannt ist, dass Häuser durchsucht werden wechseln die Täter in eine Hütte im Wald (und die Kinder Bilder Ersteller zur DSLR, wenn sie die nicht eh schon nutzen)

        • > Hast du Kinder?
          Habe ich. Und ich will nicht, dass mein Kind in einem Überwachungsstaat aufwächst.

          • Du gehst der eigentlichen Frage aus dem Weg. Zudem hat das nichts mit Überwachungsstaat zu tun. Wo sind wir in einem Überwachungsstaat wenn das kommen würde? Aber bitte erst mal die erste Frage beantworten 🙂

            • Hallo Sascha, die Frage „hast Du Kinder“ ist belanglos – jeder und jede kann Opfer von Kriminalität werden und hat Anspruch auf Schutz. Aber jeder und jede hat Anspruch auf den Schutz der verfassungsgemäß garantierten Rechte , dazu gehören Unverleetzlichkeit der Wohnung, Post-Birief und Telekommunikationsgeheimnis und allgemein der Schutz des nicht öffentlich gesprochenen Wortes , in dem Sinne auch andere persönliche nicht öffentlich geteilte informationen. Wir leben in einem Land das zumindest während meiner Lebensheit eine Diktatur als herrschaftsform hatte mit Geheimpolizei, Bespitzelung bis hin in die eigene Familie und jederzeitige anlaßlose Überwachung durch „Horch & Guck“. Und zumindest meine Großeltern – meine Mutter war noch zu jung um das bewußt mitzuerleben – kennen noch das andere Regiem mit GeStaPo und einem System von Bespitzelung, Aufhebung aller individuellen menschenrechte bis hin zu den Verbrechen in den Vernichtungslagern. Gerade daheer ist der Schutz der aus gutem Grrund so tief in der Verfassung zementierten Rechte , die dann auch in den hier schon aufgeführten Regeln des SStrafverfolgungsrechts ihren Niederschlag finden so immens wichtig. Das muß auch jeder und jede einsehen der Elternteil ist. Sonst hätten wir aus der Geschichte nichts gelernt.

            • Es hat sogar ziemlich exakt etwas mit Überwachungsstaat zu tun.
              Deutschland ist schon einmal innerhalb von fünf Monaten von einer Demokratie in eine Diktatur geschlittert.

        • Oliver Müller says:

          Das Argument „hast du Kinder“ greift nicht. Das iPhone verhindert gar nichts. Genauso wie Kameras im öfffentlichen Raum keine Gewalttaten verhindern.

        • Genau das denke ich mir auch bei all den Kommentaren der „Gegner“……

          Immer so geil wie alle von Datenschutz schreien und dann sind es grade die, welche aber dann alles und jeden auf Facebook, Insta und Co posten……

      • Jörg, ich bin ja hier bezüglich unserer Pflicht zur Verhinderung des Dammbruchs zu hundert Prozent auf deiner Seite und liefere mir weiter oben aktuell ein Gefecht mit diesem Sascha, der meint, mit derlei Überwachungsmaßnahmen könnte man die Kinder vor Gewalt schützen, aber deine Aussage, dass „das Eindringen von Firmen in die Privatsphäre schlimmer IST als Kinderpornografie“, empfinde ich als zutiefst verstörend.

        Das Eindringen von Firmen in die Privatsphäre müssen wir zwar verhindern, aber sexualle Gewalt gegen Schutzbefohlene ist eines der widerlichsten Verbrechen, dass ich mir vorstellen kann. Daher würde ich mich freuen, wenn du deine Aussage relativieren würdest, sofern du hier noch mitliest. Vielen Dank!

        • Ich würde das nicht Wortgefecht nennen, das hat so was negatives. Ich verstehe deine Argumentation oben durchaus und sie ist für mich nachvollziehbar. Ich sehe das vielleicht nicht ganz so kritisch, aber – ja – das muss letztendlich jeder für sich selbst entscheiden. Und ich bin auch jemand der weder Facebook noch Paypal und dergleichen nutzt, aber jetzt in dem konkreten Einzelfall keine Probleme hätte, wenn Apple das macht. Ich bin es halt nur leider langsam leid, diese extremen Aussagen in vielen Diskussionen zu lesen, die Datenschutz von den Schutz der Kinder stellen. So hört es sich nämlich häufig an. Man sieht eben nur die eine Seite, den Angriff auf die Privatsphäre, ohne die andere Seite zu betrachten. Wie eben genau so ein Kommentar, den du ebenso verstörend findest wie ich.

          Die Frage, ob man damit etwas vermeidet: Ja. Ich glaube schon. Es gibt viele Menschen die überhaupt keine Ahnung haben, dass sie ihre Bilder in eine Cloud laden. Oder was damit passiert in der Cloud. Nicht jeder Pädophile ist technisch so versiert. Wenn nur ein solch ahnungsloser Perversling*in von 1000 damit aus dem Verkehr gezogen werden kann, dann hat man schon etwas gewonnen. Es ist einfach von beiden Seiten betrachtet ein sensibles Thema….

        • Hallo Tobe, so sehr ich deinen sachlichen Kommentar schätze, aber genau das möchte ich nicht: Meine Aussage relativieren.

          Natürlich ist die sexuelle Misshandlung von Kindern eine der ekligsten Sachen, die es auf der Welt gibt, und dass sage ich dir als Vater einer 12jährige Tochter. Das wäre eine Tragödie.

          Es ist aber nunmal so, dass es noch ein paar Dinge gibt, die noch furchtbarer sind. Man hat heutzutage glücklicherweise, aus seiner Lebenserfahrung heraus, das Gefühl, Gulags, KZs und Massenmord wären Dinge aus Filmen. Das ist aber nicht so. Die Vorstellung, dass unsere freiheitliche Gesellschaft „kippt“, natürlich langsam, Stück für Stück, und dass wir irgendwann einen Staat haben, der die Gewissenlosigkeit eines 3. Reiches oder der Sowjetunion verbindet mit den Möglichkeiten einer durchdigitalisierten Gesellschaft ist ein Alptraum, eine Dystopie, und niemand anders wird uns daraus befreien können.

          Natürlich klingt das „übertrieben“. Natürlich ist die AfD keine NSDAP. Aber eben so „natürlich“ sind solche Szenarien inzwischen keine komplette Spinnerei mehr.

          Im Grunde genommen ist das das Szenario „Unter Hitler konnte sich eine Frau noch trauen, im Dunklen draussen rumzulaufen“. Ja. Kann sein. Wenn die Welt voller Spitzel ist, dann ist jede Form Krimineller ein willkommener Beifang zur Propaganda, aber das rechtfertigt nichts.

          Wir müssen die *Grundmechanismen* einer freien Gesellschaft ohne wenn-und-aber verteidigen, sonst werden sie weg-kompromisst.

          Unter keinen Umständen dürfen wir Überwachung erlauben, um Kindesmissbrauch zu verhindern. Oder Mord. Order Sklaverei. Oder Vergewaltigung. Unter _keinen_ Umständen. Nicht, weil das relativiertes Klein-klein wäre, sondern weil wir damit hinter eine Linie zurückträten, die vollkommen unverzichtbar ist.

    • Du hast den Schuss wohl wirklich nicht gehört. Deine Argumentation („Noch dazu bleibt immer ein fader Beigeschmack, wenn jemand nicht will, dass sein Handy nach solchen Inhalten durchsucht wird.“) treibt jedem Überwachungsfanatiker Freudentränen ins Gesicht.

      Am besten installieren wir noch in allen Schlafzimmern der Welt Kameras, deren Aufnahmen mittels automatisierter Scans auf Kindesmissbrauch überprüft werden. Und wer dagegen ist, bekommt gleich mal einen Eintrag in seine Stasi-Akte, dass er vermutlich Kinderschänder sein muss. Sonst wäre er/sie ja nicht dagegen.

    • Hallo peter Traurig, es gilt in Deutschland und in jedem rechtsstaat die Unschuldsvermutung. Das heißt auch das mein eigentum ohne _in einzelfall_ begründeten Verdacht nicht durchsucht werden darf. Alles andere , also jede anlaßlose durchsucung , Überwachung , Scannung oder was immer ist merkmal diktatorischer oder faschistoider Regieme, ich nenne nur mal StaSi oder GeStaPo als Beispiele der jüngeren eigenen Geschichte. Und ich verwehre mich ganz entschieden hier mit der Moralkeule „Du bist doch auch gegen Kindesmußbrauch, oder? Dann mußt du sowas doch gutheißen“ erpressen zu lassen. Deine Äußerung zeugt von einem sehr wenig ausgeprägtem Verständnis des Rechtsstaates und der Rechte jeder person gegenüber den staatlichen (und um so mehr auch nicht-staatlichen) Institutionen. Erinnert mich ein wenig an „DDR“-Sprech: da war man ja auch u. U. gleich im Bunde mit dem „Klassenfeind“ wenn man sich z. B. gegen Wehrkunde-Unterricht in der Schule äußerte oder die Kinder nicht zur Jugendweihe sondern zurm Konfirmanden-Unterricht gingen. Nix gelernt aus zwei Diktaturen in diesem lande?

      • Ich weiss, das kommt ein wenig spät, aber ich möchte unbedingt ein „Danke!“ für diesen Text dalassen.
        Leute wie dich sollte man als Erklärbär in Schulen schicken, weil Du das Talent hast, ein dickes Geschichtsbuch in drei Sätzen zusammenzufassen.

    • Absolut korrekt !!

  8. Dem „zu spät“ schließe ich mich trotz bisheriger Nutzung von 2TB iCloud, Apple Music Family, Apple TV+ und so ziemlich allem, was das Apple Hardware-Universum aktuell hergibt, an. Pixel 4a ist bestellt und das GrapheneOS-Image wartet. Wird mit Einschränkungen ganz sicher auch mit weniger Komfort funktionieren. Klappt beim MacOS-Parallelbetrieb mit Arch & Ubuntu auch schon. *StinkeFinga*

  9. Verschieben reicht nicht: streichen! Ich habe Apples bisher Privatsphäre-Werbung vertraut. Das ist vorbei. Ist nicht mehr bequem aber notwendig, mich um E2E Verschlüsselung und andere Massnahmen zu kümmern, die mir einen Rest von Privatspäre ermöglichen. „wir (haben) beschlossen, uns in den kommenden Monaten mehr Zeit zu nehmen, um Anregungen zu sammeln und Verbesserungen vorzunehmen, bevor wir diese äußerst wichtigen Funktionen zum Schutz von Kindern unserer Kunden freigeben.“ Ich nenne das, was hier als Kinderschutz vorgeschoben wird, anlassloses ausschnüffeln von Millionen Kunden. Der GAU für’s Image. Danke, danke,danke Apple!

  10. Allen die es für unnötig halten sich dagegen zu wehren, es für verdächtig halten sich dagegen zu wehren oder denen es einfach egal ist, rate ich ein paar Dokus über zB China oder jedes andere Land, dass nicht annähernd demokratisch geführt wird, zu schauen.

    Und wenn euch das zu weit weg ist. Blickt mal 80 Jahre zurück. Da gab es hier einen NS-Staat. Stellt euch sowas mal mit all den digital gesammelten Daten vor.

    Nur weil wir noch gut dran sind, heißt es nicht, dass man nicht für Datenschutz kämpfen sollte.

    Und nach dem Motto wer sich wehrt, hat was zu verbergen, ist qatsch. Sonst komme ich gerne vorbei und schau bei euch die Schubladen durch. Würde euch sicher auch nicht gefallen.

    Frei nach dem Motto, schafft bitte nicht die Meinungsfreiheit ab, nur weil ihr nichts wichtiges zu sagen habt

  11. Ich glaube, Apple tut es mittlerweile verdammt leid, diesen Geist jemals aus der Flasche gelassen zu haben.

    Jetzt kommen sie ohne Gesichtsverlust aus der Sache nicht mehr raus.

    Falls sie es durchziehen, weiß wohl auch der Dümmste, dass all das Gequatsche um Sicherheit und Datenschutz nichts als einfältigster Werbeschmäh war.

    Apple liegen nicht seine Kunden am Herzen, sondern nur deren Geld (bei anderen Unternehmen ist es genauso, aber wenigstens behaupten die nicht so verlogen ständig das Gegenteil und stellen sich als moralisch überlegene Gutmenschen hin).

  12. Alles Show und die übliche Verarsche. Warten bis die Welle vorbei ist und dann klammheimlich einführen.
    Schon sehr ironisch, dass nun Android zur kleineren Datenschutzkatastrophe wird als der ehemals selbst ernannte Privatsphärenschützer.

    • Oliver Müller says:

      Android war schon immer besser was das Thema Datenschutz angeht, wenn man es ohne die Backdoor namens Google-Dienste genutzt hat. Insofern ist das nicht ironisch, sondern zeigt nur, dass Apples Werbung für „Privacy“ ankommt und funktioniert, wenn es erst so einen Fail wie den CSAM Scan benötigt, damit die Nutzer so langsam doch aufwachen.

  13. Ich glaube ja auch, dass man auf jeden Fall Angst davor hat, dass die Kunden diese Sache bitter böse quittieren. Die weiter oben erwähnte Sache mit dem Weihnachtsgeschäft ist vielleicht gar nicht so verkehrt.

    Eine Absurdität gibts aber trotzdem, man lässt den Kinderschändern genug Zeit, ihre iPhones abzustoßen. Jetzt mal im Ernst, als ob es wirklich um Kindesmissbrauch ginge, dann wären wenigstens die Motive ehrenwert. So kann man eigentlich nur vermuten, dass das ein nettes vorgeschobenes Argument ist und man darauf vertraut hat, dass alle Menschen Beifall klatschen und die Angelegenheit keine weiter Erwähnung findet. Das hat zumindest schon mal nicht funktioniert.

  14. > man lässt den Kinderschändern genug Zeit, ihre iPhones abzustoßen

    Diese Leute haben vorher auch schon massenhaft solches Material in die Cloud geschoben. Es wird genug geben, die davon nichts mitbekommen. Für das Thema lassen sich höchstens ein paar Technikverliebte motivieren, die keine Ahnung von der Implementierung haben.

  15. DiekleineNeko says:

    Was die meisten hier nicht verstehen ist, dass die Bilder nicht direkt beim Download oder machen gescannt werden sondern erst wenn sie in die cloud hochgeladen werden. Das Bild wird gescannt und wenn es kein CSAM enthält, dann wird es hochgeladen.
    Bisher werden die Bilder bei ALLEN Cloud Diensten erst auf dem Server gescannt.

    Ändern tut sich nicht wirklich etwas. Wenn CSAM Macher, Sammler wasauchimmer, den iCloud Upload deaktivieren, dann wird auch nicht gescannt

    • Mithin wäre diese Maßnahme äußerst unwirksam.

    • Nö. Die Bilder werden direkt auf dem privaten Smartphone gescannt, bekommen eine „Markierung“. Werden Sie in die iCloud hochgeladen, wird nur „geschaut“ ob du Bilder mit dieser Markierung hast. Hättest du welche und der Schwellenwert wird überschritten schaut sich Apple die Bilder an und leitet weitere Schritte ein……….
      Ich denke gescannt werden sie so oder so, ob der upload eingeschaltet ist oder nicht, sie „können“ bei ausgeschaltetem upload dann theoretisch halt die Bilder nicht auf die Markierung prüfen.
      Wenn ich mir aber anschaue wie oft ein iPhone die Apple Server kontaktiert, ich weis ja nicht…….

    • Hallo Neko, Du schreibst „Was die meisten hier nicht verstehen ist, dass die Bilder nicht direkt beim Download oder machen gescannt werden sondern erst wenn sie in die cloud hochgeladen werden. Das Bild wird gescannt und “ aber was ist das anderes – die cloud, gemeint ist die iCloud , ist ja erst mal kein „Verteilungsmechanismus“ a la file-sharing-hoster, sondern eine „Verlängerung“ meines individuellen Gerätespeichers im Apple-Universum: sie ist mit meiner Apple-ID und meinen Zugangsdaten verbunden. Erst wenn ich von dort aus willentlich etwas weiterleite oder jemandem Zugriff z. B. übeer einen Sharing-Link gebe verläßt der Inhalt meinen persönlichen, und damit durch alle grundrechte auf Privatspähre geschützten Bereich und wird öffentlich geteilt. Bestes Gegenbeispiel: ich habe ein foto nur lokal auf dem Telefon gespeichert und zeige das Display mit dem geöffneten Foto jemand anders: in dem Moment teile ich es und mache es öffentlich . In Sachen KiPo wäre damit der Tatbestand der Vertreitung erfüllt auch wenn das Foto physich nie mein Gerät verlassen hat. Speichere ich es nur in der Cloud um es z. B. auch auf einem iPad selber zu gucken ist das noch keine Verbreitung, es ist Besictz . auch strafbar , klar. Aber das ist dann wie das schmudel-Bild in der Schublade : solange man es nicht herumzeigt ist es eben schwierig für die Behörden mir auf die Spur zu kommen. Das wird in der analogen Welt wegen des Grundrechtsschutzes so aktzeptiert – keine anlaßlose Durchsuchungen , Anlaß in diesem Sinne wäre z. B. jemanden bei der Verteilung zu beobachten – und das gleiche muß auch bei technischen Inhalten auf einem Gerät gelten . Der Plan die eigene cloud systematisch anlaßlos zu scannen ist aber genau das : eine anlaßlose Dursuchung meines privaten Raumes.

  16. Noch ein „zu spät“-Kommentar meinerseits.
    Meine Frau und ich verkauften im Zuge des Ganzen unsere IPhones (X, 11 Pro Max), beide Apple Watches (4, 6) und einen iMac.
    Klar, ganz ohne Scanning kann man keine Smartphones mehr nutzen, und manche Art der Nutzerdatenanalyse ist sogar praktisch – keine jedoch findet auf meinem Gerät statt, das ist der große Unterschied der uns beide nun vertrieben hat. Es gibt einige gute Videos zu CSAM auf Youtube, bspw. von Rene Ritchie, unaufgeregt und sehr informativ.
    Man braucht, um dem geplanten Vorgehen Apples zu widersprechen, keinen wie auch immer gearteten Aluhut, nur etwas Geschmack an Privatsphäre.

  17. Okey aber werden Bilder nicht eh schon gescannt? Wie sonst werden die Bilder in Kategorien wie Hund,Katze, Babys Essen eingeteilt? Und klar kann man alles Missbrauchen, dazu müssten aber dann ehr die Sicherheitsmaßnahmen erhöht werden das ein Missbrauch dann eben schwerer umzusetzen ist. Sonst dürfte man ja nichtmal ein Küchenmesser haben, da man dies ja auch missbrauchen kann um damit jemanden abzustechen…..

    • „Okey aber werden Bilder nicht eh schon gescannt? Wie sonst werden die Bilder in Kategorien wie Hund,Katze, Babys Essen eingeteilt?“

      Ja, in der Cloud, aber nicht auf meinem Gerät. Und da hat auch keine Firma irgendwas zu scannen. Wenn ich was in die Cloud lade ist das eine Sache, aber wenn ich für mich entscheide, dass ich keine Cloud bzw. nur meine eigene Cloud nutzen will, dann hat da keine Firma meine Daten zu scannen. Unfassbar, wie man das gutheißen/verteidigen kann.

      • Also ich habe die Kategorien auch ohne Cloud auf meinem iPhone. Schau mal in der Fotos-App > Suchen > Kategorien 😉

        • Ich benutze kein iPhone. Keine Ahnung ob die iOS-Foto-App da von sich aus iwas scannt ohne Cloud-Verbindung. Aber selbst wenn, wird man das doch hoffentlich ausschalten können. Und wenn nicht, spricht das weiterhin nicht für Apple, sondern zusätzlich zu dem geplanten On-Device-Scanning weiter negativ.

          • Kein Plan ob man das ausschalten kann, weiss ich nicht. Und ob die jetzt nach Hundeschwänzen oder nach anderen Gliedmaßen scannen ist mir so was von wuppe

            Die Gesichtsgruppierung ist bei Google/Android auch erstmal standardmäßig aktiviert und ich denke die wenigsten Leute machen sich die Mühe das zu deaktivieren und „motzen“ hier trotzdem rum.

          • Nope. Das Gerät scannt Offline nach Inhalten in Fotos. Das geschieht anhand eines vorher trainierten ML-Models. Das Ergebnis, also die Datenbank mit Gesichtern und sonstigen Inhalten wird E2E zwischen Geräten überragen. Das wird so offline gemacht weil sich niemand bei Apple für Inhalte auf Nutzerfotos interessiert.

  18. Also ich habe das auch ohne Cloud und Apple dazu schreibt „ Beim Durchsuchen deiner Fotos findet die Erkennung von Gesichtern, Szenen und Objekten vollständig auf deinem Gerät statt.“ Schau doch mal in der Fotos-App unter Suchen und dann zB Kategorien.

  19. Aufgeschoben ist nicht aufgehoben.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Es werden alle Kommentare moderiert. Lies auch bitte unsere Kommentarregeln:

Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen. Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte - gerne auch mit Humor.

Du willst nichts verpassen?

Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den Hauptfeed abonnieren.