Android System SafetyCore: Google-App verunsichert Anwender
von caschy | 11 Kommentare
Die App „Android System SafetyCore“ sorgt seit kurzem für Furore, besser gesagt für Verwirrung. Die App taucht von ganz allein auf und viel Nutzer fragen sich, ob sie sich was eingefangen haben. Ja, haben sie – und zwar von Google. Android System SafetyCore ist Teil von Google Sicherheitsbemühungen, die schon im letzten Jahr angekündigt werden, aber erst jetzt zu uns kommen. Worum geht es da genau?
Diese Sicherheitsfunktion wird zunächst in der Google-Messages-App implementiert und zielt darauf ab, insbesondere jüngere Nutzer vor unerwünschten Nacktbildern zu bewahren. Das Feature gibt Nutzern mehr Kontrolle über das Sehen und Versenden von Nacktbildern. Kennen vielleicht unsere Leser mit iPhone. Wenn aktiviert, verschwimmen Bilder, die möglicherweise Nacktheit enthalten, bevor der Nutzer sie ansehen kann. Anschließend erscheint eine Anzeige mit Hilfsressourcen und Optionen, einschließlich der Möglichkeit, den Inhalt dennoch anzuzeigen. Die gleiche Funktion greift auch, wenn ein Nutzer versucht, ein Bild mit potenzieller Nacktheit zu versenden oder weiterzuleiten. Ja, eure Bilder werden gescannt, allerdings läuft das lokal ab.
Eigentlich eine gute Funktion, aber…Google hat bisher keine Bilder veröffentlicht, wie diese Warnungen in der Messages-App aussehen werden. Des Weiteren ist es wenig transparent, so etwas in einem Blogpost anzukündigen, nicht aber den Nutzern selbst. Das führt zu eben jener Verwirrung. Ein wichtiger Aspekt der Funktion ist also, dass die Überprüfung auf sensible Inhalte vollständig auf dem Gerät stattfindet. Was Google jedoch nicht explizit erwähnte, ist, dass diese Funktion nicht direkt in Google Messages integriert ist, sondern durch eine separate App – Android System SafetyCore – bereitgestellt wird.
Zu beachten ist, dass das Ganze nicht nur für Bilder gedacht ist. Auf lange Sicht soll das Tool Steuerelemente zum Deaktivieren von Nachrichten von unbekannten internationalen Absendern bekommen, oder vor potenziell gefährliche Links warnen.
Übrigens: Die Entwickler des GrapheneOS-Betriebssystems haben in einem Beitrag auf X ebenfalls betont, dass SafetyCore keine serverseitige Analyse bietet und hauptsächlich dafür ausgelegt ist, on-device Machine-Learning-Modelle bereitzustellen, die von anderen Anwendungen genutzt werden können, um Inhalte als Spam, Betrug oder Malware zu klassifizieren.
„Die Klassifizierung solcher Dinge ist nicht dasselbe wie der Versuch, illegale Inhalte zu erkennen und sie einem Dienst zu melden“, so ein Entwickler von GrapheneOS. „Das würde die Privatsphäre der Menschen auf verschiedene Weise erheblich verletzen, und es würden immer noch falsch-positive Ergebnisse auftreten. Das ist nicht der Zweck dieser Funktion und sie ist dafür nicht nutzbar.“
Aufgrund der Unsicherheit oder der Tatsache der schlechten Kommunikation (oder auch die Panikmache von Medien) ist die App natürlich schlecht bewertet. Ihr könnt sie deinstallieren, notfalls über das Aufrufen im Play Store (ansonsten Einstellungen > Alle Apps > System-Apps anzeigen > „Alle Apps anzeigen“ und tippt dann auf das Drei-Punkte-Menü in der oberen rechten Ecke, um „System-Apps anzeigen“ auszuwählen. Dann SafetyCore suchen und deaktivieren / deinstallieren.)
Wie erwähnt: Grundsätzlich gut gedacht, aber schlecht kommuniziert. Es gibt viele Menschen, die auf wirklich plumpe, schlecht gemachte Betrugsmaschen hereinfallen. Auch wenn man meint, wer so dumm ist, hätte es verdient, vergisst oder ignoriert, dass jeder verhinderte Betrug den Erfolg der Betrüger schmälert.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Wie geht das denn auf dem iPhone ?
Auf dem iPhone musst du erstmal Android installieren, dann alle Updates ziehen und schon erscheint die App.
…Musste schmunzeln.
Einstellungen / Datenschutz & Sicherheit / Warnung vor sensiblen Inhalten: EIN
musste Schmunzeln: Android ist NICHT nötig 
Danke, deinstalliert. Hinweis: Die App ist nicht unter „S“ wie „Safety Core“, sondern unter „A“ wie „Android Safety Core“.
Zum Inhalt: Ich sehe keinen Grund, Inhalte vor mir zu verbergen, und wer weiss, was Version 2 dann tut (oder tun muss, weil die die Politik freidreht und jedes unbequeme Meme zu „Hass und Hetze“ erklärt)
Danke für den Bericht.
Auf dem Pixel 8 Pro sofort deinstalliert.
Irre was da alles abgeht.
Wegen einer Falschmeldung durch automatisierte Überprüfung privater Photos, stand vor Jahren schon ein Trupp Polizisten vor meiner Tür und danach wurde die Wohnung komplett durchsucht – was am Ende, zwei Jahre später, zur kompletten Einstellung inklusive Verhinderung einer Möglichkeit das Verfahren neu aufzurollen (damit ich Schadenersatz einklagen kann) führte.
Vermutlich werden die Leute erst danach aufwachen, was sie sich mit Google, Amazon, Microsoft, Apple und Meta ins Haus holen.
Ich behaupte, mit TikTok wäre sowas nicht passiert, da es China völlig egal ist, welche Bilder und Texte ich privat von Familie abspeichere.
Sanfte Grüße
Wenn nach dem verschwimmen der Bilder dann eine Option auftaucht diese doch anzuzeigen was hindert Kinder dann daran das zu tun?
Nichts hindert Kinder daran, haha.
Diese ganze Idee es wäre ein nennenswerter Vorteil, Nacktheit automatisch zu erkennen, ist eine Erzählung, die man wohl vermutlich ergrübelt hat, um client-side-scanning zu legitimieren.
Gäbe es nicht zumindest einen konstruierten User-Nutzen für Client Side Scanning wäre ja offensichtlich, dass das einer von vielen Maßnahmen gegen verschlüsselte Kommunikation ist. (So wie die Chatkontrolle, die ja auch definitiv kommt. Politiker wechseln, Europol bleibt.)
Jemand der tatsächlich von Bildern schockiert ist, ist doch quasi noch ein Kind und sollte m.M.n. gar nicht unbeaufsichtigt aufs Internet zugreifen.
Früher hatten wir irgendwie liveleak und 4chan und heute platzt den Leuten angeblich der Kopf, wenn sie irgendwo eine Brustwarze erkennen. Lächerlich.
Danke für die Aufklärung.
Neben „Android System SafetyCore“ wurde auch noch eine andere App namens „Android System Key Verifier“ unaufgefordert installiert. Ich habe beide Apps entfernt. Das war schon vor 3 Wochen. Seitdem wurden diese auch nicht wieder installiert. Zumindest bei mir nicht. Es gibt aber Berichte wo die Apps ein Paar Tage später auf einigen Smartphones wieder installiert wurden.
Ich habe mich in den letzten Wochen immer wieder gewundert, warum sehr viele Bilder in Firefox bei der Google-Suche verpixelt waren und es waren mit Sicherheit keinerlei Nacktbilder. Beispiel: ich suchte nach Minibackofen, einige Bilder waren frei ersichtlich, aber viele Bilder, Bilder von Anbietern wie Amazon usw., wurden in der Suche verpixelt. Ging man dann auf den Link, war dort alles normal zu sehen. Nach der Deinstallation dieser App und dem Löschen aller Browser-Daten, war wieder alles normal.
Eine App die derartiges Verhalten hat, ohne dass man dabei eingreifen kann, kann ich nur empfehlen, dringends zu deinstallieren. In meinen Augen ist das eine Einschränkung meiner Sicherheiten. Die Frage ist nur, wird sie dann irgendwann wieder einfach durch Google installiert?