Android System SafetyCore: Google-App verunsichert Anwender

Die App „Android System SafetyCore“ sorgt seit kurzem für Furore, besser gesagt für Verwirrung. Die App taucht von ganz allein auf und viel Nutzer fragen sich, ob sie sich was eingefangen haben. Ja, haben sie – und zwar von Google. Android System SafetyCore ist Teil von Google Sicherheitsbemühungen, die schon im letzten Jahr angekündigt werden, aber erst jetzt zu uns kommen. Worum geht es da genau?

Diese Sicherheitsfunktion wird zunächst in der Google-Messages-App implementiert und zielt darauf ab, insbesondere jüngere Nutzer vor unerwünschten Nacktbildern zu bewahren. Das Feature gibt Nutzern mehr Kontrolle über das Sehen und Versenden von Nacktbildern. Kennen vielleicht unsere Leser mit iPhone. Wenn aktiviert, verschwimmen Bilder, die möglicherweise Nacktheit enthalten, bevor der Nutzer sie ansehen kann. Anschließend erscheint eine Anzeige mit Hilfsressourcen und Optionen, einschließlich der Möglichkeit, den Inhalt dennoch anzuzeigen. Die gleiche Funktion greift auch, wenn ein Nutzer versucht, ein Bild mit potenzieller Nacktheit zu versenden oder weiterzuleiten. Ja, eure Bilder werden gescannt, allerdings läuft das lokal ab.

Eigentlich eine gute Funktion, aber…Google hat bisher keine Bilder veröffentlicht, wie diese Warnungen in der Messages-App aussehen werden. Des Weiteren ist es wenig transparent, so etwas in einem Blogpost anzukündigen, nicht aber den Nutzern selbst. Das führt zu eben jener Verwirrung. Ein wichtiger Aspekt der Funktion ist also, dass die Überprüfung auf sensible Inhalte vollständig auf dem Gerät stattfindet. Was Google jedoch nicht explizit erwähnte, ist, dass diese Funktion nicht direkt in Google Messages integriert ist, sondern durch eine separate App – Android System SafetyCore – bereitgestellt wird.

Zu beachten ist, dass das Ganze nicht nur für Bilder gedacht ist. Auf lange Sicht soll das Tool Steuerelemente zum Deaktivieren von Nachrichten von unbekannten internationalen Absendern bekommen, oder vor potenziell gefährliche Links warnen.

Übrigens: Die Entwickler des GrapheneOS-Betriebssystems haben in einem Beitrag auf X ebenfalls betont, dass SafetyCore keine serverseitige Analyse bietet und hauptsächlich dafür ausgelegt ist, on-device Machine-Learning-Modelle bereitzustellen, die von anderen Anwendungen genutzt werden können, um Inhalte als Spam, Betrug oder Malware zu klassifizieren.

„Die Klassifizierung solcher Dinge ist nicht dasselbe wie der Versuch, illegale Inhalte zu erkennen und sie einem Dienst zu melden“, so ein Entwickler von GrapheneOS. „Das würde die Privatsphäre der Menschen auf verschiedene Weise erheblich verletzen, und es würden immer noch falsch-positive Ergebnisse auftreten. Das ist nicht der Zweck dieser Funktion und sie ist dafür nicht nutzbar.“

Aufgrund der Unsicherheit oder der Tatsache der schlechten Kommunikation (oder auch die Panikmache von Medien) ist die App natürlich schlecht bewertet. Ihr könnt sie deinstallieren, notfalls über das Aufrufen im Play Store (ansonsten Einstellungen > Alle Apps > System-Apps anzeigen > „Alle Apps anzeigen“ und tippt dann auf das Drei-Punkte-Menü in der oberen rechten Ecke, um „System-Apps anzeigen“ auszuwählen. Dann SafetyCore suchen und deaktivieren / deinstallieren.)

Wie erwähnt: Grundsätzlich gut gedacht, aber schlecht kommuniziert. Es gibt viele Menschen, die auf wirklich plumpe, schlecht gemachte Betrugsmaschen hereinfallen. Auch wenn man meint, wer so dumm ist, hätte es verdient, vergisst oder ignoriert, dass jeder verhinderte Betrug den Erfolg der Betrüger schmälert.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.