Diesen Plan hat Google im Kampf gegen den Terror

Terror ist eine aktuelle Bedrohung, die präsenter denn je ist. Auch das Internet trägt seinen Teil dazu bei, lassen sich so doch jede Menge Leute sehr unkompliziert erreichen. Perfekt für Propaganda jeglicher Art – perfekt, um geistig verwirrte Personen anzuwerben. Nun haben alle Plattformen, auf denen Dinge veröffentlicht werden können, ein großes Problem: Sie möchten weder als die großen Zensoren auftreten, noch möchten sie die Redefreiheit einschränken – aber zum Terrorunterstützer möchte Google eben auch nicht werden.

Vier neue oder verschärfte Maßnahmen sollen nun dafür sorgen, dass Inhalte, die Terror glorifizieren oder versuchen, neue Mitglieder anzuwerben, schwerer auffindbar sind oder direkt gänzlich gelöscht werden. Angefangen bei der automatischen Erkennung von Videos, die Extremismus oder Terror glorifizieren.

Das kann sehr schwierig sein, denn das System muss zwischen Berichterstattung und „Propaganda“ unterscheiden können. Deshalb kann sich Google auch nicht auf die automatische Erkennung alleine verlassen. Aber bis jetzt wurden bereits mehr als 50 Prozent der von Google entfernten Videos auf diese Weise erkannt, mit noch besserem Machine Learning soll dies dann zu einer noch besseren Quote führen.

Die Maschine alleine wird es nicht richten, zur Identifizierung unerwünschter Inhalte wird auch auf Manpower gesetzt. Über das „Trusted Flaggers“-Programm. Meldungen durch Nutzer können verfälscht sein, viele Meldungen bedeuten nicht automatisch, dass der Inhalt auch ungeeignet ist. Aber die Meldungen der „Trusted Flagger“ sind in über 90 Prozent der Fälle berechtigt, hier stockt Google nun noch einmal auf.

Zu den bereits 63 Organisationen, die an dem Programm teilnehmen, gesellen sich 50 weitere NGOs (Nichtregierungsorganisationen), die Inhalte überprüfen werden. Diese stellen Expertise nicht nur in Sachen Terror, sondern auch für andere sensible Bereiche, wie Selbstverletzung oder Hassrede. Gleichzeitig wird die Arbeit mit Gruppen intensiviert, die Content entdecken sollen, der radikalisiert oder rekrutiert.

Sehr interessant im Bezug auf Zensur oder Gleichbehandlung aller ist hingegen der dritte Punkt. Hier kann Google gar nichts richtig machen, denn die Videos verstoßen nicht gegen die AGB, werden aber trotzdem anders behandelt. Es geht um Videos, die aufwieglerische religiöse Botschaften enthalten.

Diesen wird nicht nur eine Warnung vorgesetzt, sie lassen sich auch nicht monetarisieren und tauchen auch nicht in Empfehlungen auf. Außerdem werden Nutzerinteraktionen mit diesen Videos unterbunden. Wer sich das Video anschaut, kann dann nicht kommentieren oder anderweitig interagieren.

Das ist schon ein starker Eingriff, der sicher nicht für jeden nachvollziehbar ist. Auf der einen Seite darf so ein Video auf der Seite bleiben, auf der anderen sorgt es aber für genug „Zündstoff“, dass es eben anders behandelt wird. Google nennt das die richtige Balance zwischen Ausdrucksfreiheit und Recht auf Information, ohne extreme Ansichten zu promoten. Schwierig finde ich, entweder passen die Inhalte auf die Plattform oder eben nicht. So bietet man der Zielgruppe weiterhin eine bequeme Plattform für ihre hirnverbrannten Inhalte – egal ob politisch oder religiös.

Klarer ist wiederum der vierte Punkt, über eine Redirect-Methode sollen potentiell für eine Rekrutierung anfällige Personen aufgeklärt werden. Zusammen mit Jigsaw wird man diese Methode in Europa einführen. Hier kommt der Ansatz personalisierter Werbung zur Anwendung, Nutzer, die solche Videos schauen, bekommen „Gegenvideos“ beworben, die mit „Terrormythen“ aufräumen. Bisherige Einsätze eines solchen Systems haben eine sehr hohe Click-Through-Rate, über eine halbe Million Minuten solchen aufklärenden Videomaterials wurde bereits geschaut.

Zusammen sollen diese Änderungen auf Dauer einen Unterschied machen. Allerdings ist sich Google auch bewusst, dass dies ein andauernder Prozess ist, der immer wieder Anpassungen benötigt, um die richtige Balance zu erreichen. Und vermutlich ein besserer Ansatz als die Plattformen per Gesetz zu bestimmten Reaktionen zu zwingen.