Google Messages verpixelt ab sofort (optional) mutmaßliche Nacktbilder

Google Messages erhält ab sofort eine Funktion, welche mutmaßliche Nacktbilder verpixeln kann. Caschy hatte schon Anfang März 2025 darüber berichtet. Angekündigt wurde das Feature gar bereits im Oktober 2024. Für Jugendliche unter 18 Jahren wird dieses Feature als Standard aktiviert und kann durch diese auch nicht abgeschaltet werden. Darüber haben dann nur die Eltern über die Family-Link-App die Kontrolle. Für alle anderen handelt es sich um eine vollkommen optionale Einstellung.

Als Standard sind die sogenannten „Sensitive Content Warnings“ bei Erwachsenen also abgeschaltet. Ihr könnt sie auf Wunsch anknipsen, indem ihr in der App für Google Messages in den Bereich „Einstellungen“ wandert und dann „Sicherheit und Datenschutz“ auswählt. Dort sollte sich unter der bekannten Option, um den Spamschutz zu aktivieren, nun ein neuer Toggle befinden. Mit dem könnt ihr eben die automatische Verpixelung von mutmaßlichen Nacktbildern auch für euch aktivieren, wenn ihr das wollt.

Die Erkennung sensibler Inhalte erfolgt für Kinder und Jugendliche im Übrigen ausschließlich auf den Geräten, auf denen das Kind mit seinem Google-Konto eingeloggt ist. Die Privatsphäre bleibt gewahrt, denn weder Eltern noch andere Personen erhalten Benachrichtigungen über den Empfang oder Versand kritischer Bilder. Die endgültige Kontrolle über die Aktivierung bzw. Deaktivierung dieser Schutzfunktion liegt in der letzten Stufe aber eben bei den Erziehungsberechtigten. Sie können die Einstellung über die erwähnte App Google Family Link oder die Webseite families.google.com verwalten.

Eine aktuelle Lücke: Bilder werden zwar erkannt und gegebenenfalls verpixelt, nicht aber Videos. Grundsätzlich arbeitet das Feature eben lokal direkt auf dem Gerät und nutzt dafür Android System SafetyCore. Google gibt an, dass das Unternehmen selbst keine Daten an seine Server zurückerhalte, also nicht auswerte, was ihr da so treibt. Ist die Funktion aktiv, erhalten Kinder und Jugendliche, oder bei Bedarf ihr selbst, im Übrigen auch Warnhinweise, wenn sie mutmaßlich anstößige Bilder selbst an andere versenden wollen.

Laut 9to5Google wird die Funktion ab sofort verteilt, steht aber noch nicht breit auf allen Geräten zur Verfügung. Als erste kommen offenbar Beta-Nutzer in den Genuss. Ich selbst habe das Ganze an meinem Android-Smartphone geprüft und habe aktuell auch noch keinen Zugriff. Es kann aber eben jederzeit so weit sein.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.