Diesen Plan hat Google im Kampf gegen den Terror

Terror ist eine aktuelle Bedrohung, die präsenter denn je ist. Auch das Internet trägt seinen Teil dazu bei, lassen sich so doch jede Menge Leute sehr unkompliziert erreichen. Perfekt für Propaganda jeglicher Art – perfekt, um geistig verwirrte Personen anzuwerben. Nun haben alle Plattformen, auf denen Dinge veröffentlicht werden können, ein großes Problem: Sie möchten weder als die großen Zensoren auftreten, noch möchten sie die Redefreiheit einschränken – aber zum Terrorunterstützer möchte Google eben auch nicht werden.

Vier neue oder verschärfte Maßnahmen sollen nun dafür sorgen, dass Inhalte, die Terror glorifizieren oder versuchen, neue Mitglieder anzuwerben, schwerer auffindbar sind oder direkt gänzlich gelöscht werden. Angefangen bei der automatischen Erkennung von Videos, die Extremismus oder Terror glorifizieren.

Das kann sehr schwierig sein, denn das System muss zwischen Berichterstattung und „Propaganda“ unterscheiden können. Deshalb kann sich Google auch nicht auf die automatische Erkennung alleine verlassen. Aber bis jetzt wurden bereits mehr als 50 Prozent der von Google entfernten Videos auf diese Weise erkannt, mit noch besserem Machine Learning soll dies dann zu einer noch besseren Quote führen.

Die Maschine alleine wird es nicht richten, zur Identifizierung unerwünschter Inhalte wird auch auf Manpower gesetzt. Über das „Trusted Flaggers“-Programm. Meldungen durch Nutzer können verfälscht sein, viele Meldungen bedeuten nicht automatisch, dass der Inhalt auch ungeeignet ist. Aber die Meldungen der „Trusted Flagger“ sind in über 90 Prozent der Fälle berechtigt, hier stockt Google nun noch einmal auf.

Zu den bereits 63 Organisationen, die an dem Programm teilnehmen, gesellen sich 50 weitere NGOs (Nichtregierungsorganisationen), die Inhalte überprüfen werden. Diese stellen Expertise nicht nur in Sachen Terror, sondern auch für andere sensible Bereiche, wie Selbstverletzung oder Hassrede. Gleichzeitig wird die Arbeit mit Gruppen intensiviert, die Content entdecken sollen, der radikalisiert oder rekrutiert.

Sehr interessant im Bezug auf Zensur oder Gleichbehandlung aller ist hingegen der dritte Punkt. Hier kann Google gar nichts richtig machen, denn die Videos verstoßen nicht gegen die AGB, werden aber trotzdem anders behandelt. Es geht um Videos, die aufwieglerische religiöse Botschaften enthalten.

Diesen wird nicht nur eine Warnung vorgesetzt, sie lassen sich auch nicht monetarisieren und tauchen auch nicht in Empfehlungen auf. Außerdem werden Nutzerinteraktionen mit diesen Videos unterbunden. Wer sich das Video anschaut, kann dann nicht kommentieren oder anderweitig interagieren.

Das ist schon ein starker Eingriff, der sicher nicht für jeden nachvollziehbar ist. Auf der einen Seite darf so ein Video auf der Seite bleiben, auf der anderen sorgt es aber für genug „Zündstoff“, dass es eben anders behandelt wird. Google nennt das die richtige Balance zwischen Ausdrucksfreiheit und Recht auf Information, ohne extreme Ansichten zu promoten. Schwierig finde ich, entweder passen die Inhalte auf die Plattform oder eben nicht. So bietet man der Zielgruppe weiterhin eine bequeme Plattform für ihre hirnverbrannten Inhalte – egal ob politisch oder religiös.

Klarer ist wiederum der vierte Punkt, über eine Redirect-Methode sollen potentiell für eine Rekrutierung anfällige Personen aufgeklärt werden. Zusammen mit Jigsaw wird man diese Methode in Europa einführen. Hier kommt der Ansatz personalisierter Werbung zur Anwendung, Nutzer, die solche Videos schauen, bekommen „Gegenvideos“ beworben, die mit „Terrormythen“ aufräumen. Bisherige Einsätze eines solchen Systems haben eine sehr hohe Click-Through-Rate, über eine halbe Million Minuten solchen aufklärenden Videomaterials wurde bereits geschaut.

Zusammen sollen diese Änderungen auf Dauer einen Unterschied machen. Allerdings ist sich Google auch bewusst, dass dies ein andauernder Prozess ist, der immer wieder Anpassungen benötigt, um die richtige Balance zu erreichen. Und vermutlich ein besserer Ansatz als die Plattformen per Gesetz zu bestimmten Reaktionen zu zwingen.

Gefällt dir der Artikel? Dann teile ihn mit deinen Freunden.

Sascha Ostermaier

Technik-Freund und App-Fan. In den späten 70ern des letzten Jahrtausends geboren und somit viele technische Fortschritte live miterlebt. Vater der weltbesten Tochter (wie wohl jeder Vater) und Immer-Noch-Nicht-Ehemann der besten Frau der Welt. Außerdem zu finden bei Twitter (privater Account mit nicht immer sinnbehafteten Inhalten) und Instagram. PayPal-Kaffeespende an den Autor.

Das könnte dir auch gefallen…

Mit dem Absenden eines Kommentars willigst du unserer Datenschutzerklärung und der Speicherung von dir angegebener, personenbezogener Daten zu.

24 Kommentare

  1. Ein, für meine Begriffe, unglaublich kompliziertes Thema. Ich bin kein Experte aber was ich hier lese, beeindruckt mich und ich kann nur hoffen das es Google gelingt solchen Content korrekt zu identifizieren und entsprechende Gegenmaßnahmen zu ergreifen. Damit werden wir solches Gedankengut zwar nicht los aber das ist auch nicht die Aufgabe von einer Firma, sondern von einer Gesellschaft.
    Ich finde es bedrückend und traurig mit was für Themen sich eine Gesellschaft auseinander setzen muss.

  2. Kann ich davon ausgehen, dass Google identische Methoden bei Webseiten zum
    Thema, Leitern, Treppen, Kokosnüssen, Grabsteinen. Blitzschlägen etc anwendet ?
    Weil vor solchen letalen Bedrohungen sollte man Angst haben. Vor Terror sicher nicht.

  3. @Nina
    Ein rational denkender Mitmensch schon im zweiten Kommentar. Danke !

    Es sei nebenbei bemerkt erwähnt, dass auch die Webseiten sämtlicher Sanitärfachgeschäfter im Ranking aber mal ganz weit unten landen müssen. Wenn ich da an die ganzen alten Leute denke, die sich nichtsahnend im Netz eine neue, rutschige Duschwanne bestellen, nachdem ihnen ihr (Enkel-)Kind einen Rechner geschenkt hat, nur um dann durch Ausrutschen in eben dieser elendig umzukommen….

    Ich muss meine Großeltern mal wieder besuchen, bei diesen Gedanken überkommt mich echt die Angst. ich werde ihnen eine Rutschmatte als Talisman gegen blutrünstige Sanitärfachverkäufer mitbringen !

    Ich schweife ab. Für alle, die sich fürs Thema interessieren und/oder über Humor verfügen:
    https://www.youtube.com/watch?v=yhIc7DLOjfI (ZDF, knapp 6 min)

  4. mac.extra says:

    IS und Konsorten sind ein WItz gegen die echten Probleme der Welt. Man nehme zum Beispiel den aktuellen Fall mit dem Hochhausbrand in London, ist dieses erst mal unter Kontrolle wird man noch viel mehr Leichen finden als die zuletzt genannten 79 und schwupps hat man mehr Tote bei einem Hochhausbrand als in allen Terroranschlägen im Vereinten Königreich seit 2000 zusammen. Und wie konnte es dazu kommen? Richtig, die regierende Tory Partei hat Prioritäten bewusst falsch gesetzt, Pornos zensieren ist denen wichtiger als Sicherheitsbestimmungen in Hochhäusern einzuführen.

  5. @nina
    @mac.extra
    Die Automobilindustrie, die Hersteller von Leitern, Treppen, Kokosnüssen, Blitzschlägen und die Bauindustrie wollen uns nicht versklaven.
    Die Terroristen schon.

  6. Die bekommen mangels Masse ja kaum die Besatzung für eine Rudergaleere zusammen auf der wir dann als Sklaven schuften müssten. Deutlich weniger angsteinflößend als so eine fiese, hinterhältige Kokosnuss.

  7. @Nina
    Nun… bis die US-Marineinfanterie im Mai 1805 bei Tripolis für Ordnung sorgte („From the Halls of Montezuma To the Shores of Tripoli“ singen die noch heute) sind etwa 1 Million Europäer als Sklaven nach Nordafrika entführt worden. Die Lübecker Sklavenkasse ist erst am 24. Juli 1861 aufgelöst worden.

  8. Was geht den hier ab? Es ist doch gut das sowenig Menschen bei Anschlägen ums Leben kommen als bei einem Brand. Aber es geht nicht alleine darum, ich denke nicht das es das Ziel dieser völlig verblödeten Menschen ist alle umzubringenden. Es geht einzig und allein darum die Gesellschaft zu spalten und das erreicht man durch solche Anschläge selbst wenn niemand dabei umkommt. Probleme nur anhand von Todeszahlen zu messen ist leider etwas kurzsichtig.

  9. @l1werner: AfD Wähler?

  10. Hier mal ein Gedankenspiel.
    Annahme: In Deutschland entgleist jede Woche ein Zug aber niemand kommt dabei ums Leben.
    Ergebnis: Da niemand ums Leben kommt gibt es auch kein Problem. Also besteht auch kein Handlungsbedarf.

  11. @Liam: Täglich kommen mehrere Menschen bei normalen Autounfällen um. Hat die Bevölkerung jetzt eine riesige Panik davor sich ins Auto zu setzen?
    Hier ist das Problem. Die Bevölkerung versetzt sich selber in Panik, weil sie viel intensiver mit dem Thema konfrontiert wird. In Europa braucht man keine Angst davor haben Opfer eines Anschlags zu werden.

    @Thema: Mein Beileid für die Prüfer, sich ständig mit Propaganda beschäftigen zu müssen ist psychisch sicherlich sehr belastend.

  12. Wolfgang D. says:

    Juhuu, Selbstzensur ist toll. Ich bin mal gespannt, ab wann Kommentarbeiträge gelöscht werden, weil sie das Ranking der Webseite verringern könnten.

    „geistig verwirrte Personen anzuwerben“ falsch, das sind sogar Menschen, die sich für etwas einsetzen wollen und da eine (vermeintliche) Chance ergreifen. Dass IS und Co genau so verlogen handelt wie bestehende andere Eliten, merken die meist nur zu spät.

  13. @Werner:
    Thema „versklaven“: Einen repressiv-autoritären Überwachungsstaat bekommen wir auch ganz ohne Scharia hin, dafür braucht es keine Herrschaft von extremistisch-religiösen Vollidioten:
    https://netzpolitik.org/2016/jahresrueckblick-der-ausbau-des-ueberwachungsstaates-2016/

    Allerdings ist die von ihnen erzeugte Angst dafür schon ganz praktisch, wie es scheint, wenn halt auch leider völlig hysterisch und unbegründet. Es sterben jeden Monat in DE ~200-300 Menschen im Straßenverkehr:
    https://de.statista.com/statistik/daten/studie/161724/umfrage/verkehrstote-in-deutschland-monatszahlen/
    Wenn YT (Google) eine ernsthafte Gefahrenabwehr für die Menschen machen will, müssten sie auch sämtliche Videos von Auto-Aufmotz-Gurus sperren etc.
    Hingegen ist Europa in Sachen Terroranschläge verglichen mit den Zeiten von IRA, RAF und ETA heute regelrecht sicher.
    https://www.privacy-handbuch.de/symbol/terror2.png
    Die ganze, von den Medien verbreitete Terrorangst ist Panikmache, um oben genanntes zu legitimieren und von wichtigen politischen Themen abzulenken.

    @Liam
    Ich halte deine Sichtweise für kurzsichtig. Natürlich ist es gut, dass so wenige Menschen bei Terroranschlägen sterben, aber das Ziel der Terroristen (die Gesellschaft zu spalten, in Angst zu versetzen etc.) gelingt ihnen nur, weil jeder diese absolut ungerechtfertigte Angst hat, selbst Opfer eines Anschlags werden zu können. Das liegt an der medialen Verwurstung des ganzen. Würde über die Zigaretten- und Alkoholtoten oder die täglichen Opfer des Straßenverkehrs in der selben Art und Weise berichtet, dann hätten die Menschen berechtigte Sorgen.

  14. @Ramona viele Autofahrer sind auch ein riesen Problem für die Gesellschaft, nicht nur die tatsächlichen Unfälle sondern auch die potentiellen sind zu beachten. Ich kenne genug Leute die schon öfters besoffen autogefahren sind und die werden eines Tages wahrscheinlich unschuldige mit ihrem Verhalten töten, nur weil sie nach einer Saufpartie gerne im eigenen Bett schlafen wollen. Deshalb werden ja auch selbstfahrende Autos entwickelt.

  15. @chris83
    „@l1werner: AfD Wähler?“
    Mit denen habe ich nichts am Hut.

    Die sind mir nicht radikal genug :).

    Aber trotzdem tolles Argument. Bitte mehr davon.

    @Sander Schnydrig
    Die problematischen Autofahrer (sicher eine geringe Minderheit aller Autofahrer) und die Automobilindustrie wollen uns ja nichts böses. Im Gegenteil. Zumindest letztere bringen ja auch einen gewaltigen Nutzen.
    Diejenigen dagegen, die im Netz zu Mord und Totschlag aufrufen und Leute dafür anwerben bringen gar keinen Nutzen und sind ja nur darauf aus, Schaden anzurichten. Und dieser Schaden besteht u.a. ja schon dadrin, daß eine Flugreise kompliziert geworden ist und ein hoher Aufwand betrieben werden muß auch ganz und gar harmlose Menschen wie mich unter Generalverdacht zu stellen und mit allen möglichen Maßnahmen zu „durchleuchten“. Ich muß vor jeder Reise mein Gepäck genau untersuchen ob ich da nicht was verbotenes dabei habe. Dieser Schaden geht also weit über die – dank der Arbeit der Sicherheitskräfte – tatsächlich geringe Zahl von Toten hinaus.
    Und abgesagte Fußballspiele sind ja nun auch Scheiße.

  16. @l1werner: Danke für die Erwähnung der „Sklavenkasse“. Hab das gegoogelt und mir war nicht klar, dass es sowas gab 🙂 „again what learned“
    Den Kommentar von @chris83 hab ich auch nicht so ganz verstanden. Vielleicht kann mir den Gedankengang ja jemand erklären?

  17. @ Aju

    Ist ganz einfach, es handelt sich um ein rhetorisches Stilmittel. 🙂 Chris83 hat in diesem Fall kein Argument. Das stellt ihn vor ein Problem für das er jedoch eine Lösung hat. Er hat gelernt, dass wenn ihm eine Meinung nicht passt, er diese am einfachsten unterdrückt. Da das hier nicht geht, versucht er die Reputation des Kommentators herabzuwürdigen, sprich ihn zu diffamieren und damit dessen Meinungsäußerung als illegitim darzustellen. Die Gedankenkette ist dann in etwa -> Meinung passt mir nicht, muss ein Nazi sein und die sind bekanntlich das gleiche wie die NPD die im Grunde die AFD ist. Chris83 hofft das entweder jeder so denkt wie er und beim Rest genug sozialer Druck aufgebaut wird um den wiedergeborenen Adolf äh… Werner zu meiden. Wer will schon die gleiche Meinung wie der „NSler“ Werner haben?? Chris83 glaubt das der Nazikniff moralisch rechtfertigt das er sich als Zensor aufbauen kann. Das ist natürlich alles BS, hindert aber Chris83 nicht daran zensieren zu wollen. 🙂

  18. @Martin
    „Das ist natürlich alles BS, hindert aber Chris83 nicht daran zensieren zu wollen. “
    Immerhin ist er damit auf einer Linie mit unserem Bundesinnenminister.

  19. @mac.extra
    „Man nehme zum Beispiel den aktuellen Fall mit dem Hochhausbrand in London, “
    Es ist inzwischen klar, dass die aus Klimaschutzgründen angebrachte Fassadendämmung dabei wie ein Brandbeschleuniger wirkte. Diese Toten sind also auf das Konto von diesem Klimaerwärmungsmärchen zu schreiben. Mehrere Fälle dieser Art (zum Glück ohne Tote) hat es auch schon in Deutschland gegeben.

  20. Firetribe says:

    @l1werner: So ein Schwachsinn. Vielleicht war die Fassadendämmung schuld, aber welcher Klimaforscher schreibt denn vor, brennbare Dämmungen zu verwenden? Es gibt sicherlich auch nicht brennbares Dämmmaterial. Da hat einfach mal wieder jemand gespart. Lass mal die Kirche im Dorf, Brandursache war wahrscheinlich ein verirrter Chemtrail? Nicht alles kann man den eigenen Feindbildern zurechnen, so verlockend das sein mag…

  21. Martin Schlatter says:

    Lustig, der IS besteht aus 50’000 Kämpfern die alle relativ schnell gewusst haben, warum sie und für was sie kämpfen und Google will Terror verhindern, indem es Treffer aus der Ergebnisliste nimmt? Das ist ein Marketinggag, mehr nicht.
    Wer Terror verhindern will muss bei Sykes-Picot anfangen….

  22. @ Firetribe
    Nö gibt es praktisch nicht. Bezahlbare Dämmung ist maximal schwer entflammbar. Aber Deine nichtargumentative Reaktion ist typisch für Menschen die nicht mit den Folgen Ihres Handelns konfrontiert werden wollen. Sicherlich, rein empirisch gibt es Dämmung die nicht brennt, da gebe ich Dir rhetorisch recht. Deren Resultat ist dann aber ihre Unbezahlbarkeit. Die Folge sind mittlerweile massiv gestiegene Baukosten die keinen Nutzwert haben und gleichzeitig für weniger und teureren Wohnraum sorgen. An der Stelle trifft es aber zumindest die richtigen, fehlt ja gerade in boomenden Studentenstädten an Wohnraum. Shit happens 😉

    Da aber die Abzocker der Energiewende weiter kassieren wollen, verwandeln sie bestehende Häuser in tickende Zeitbomben. Zum einen gibt es keine wirklichen Einspareffekte (mehrfach belegt) so das eine Amortisierung mehr als zweifelhaft ist. Zum anderen werden Häuser in Schimmelinkubatoren umgewandelt. Ein Umstand der nachweislich nicht an den Bewohnern liegt und vom zukünftigen hochgiftigen Sondermüll dank chemischer flammhemmender Behandlung der Dämmung (die nach ca. . 25 Jahren runter und etnsorgt werden muss), fange ich gar nicht erst an. Wegen des Brandbeschleunigers „Wärmedämmung“ als auch wegen Solaranlagen auf Dächern, ist die Feuerwehr mittlerweile dazu übergegangen, diese Häuser im Brandfall kontrolliert abbrennen zu lassen da ein Löschen ab einem bestimmten Punkt nicht mhr möglich ist. Ja, jedes Haus mit Wärmedämmung oder Solaranlage ist eine tickende Zeitbombe die teuer durch die Bewohner finanziert wird. Aber ich nehme an das wir alle Opfer bringen müssen um den CO2 Ausstoß (der bekanntlich Pflanzennahrung ist) zu verringern. Dumm nur das in Deutschland der gegenteilige Effekt eingetreten ist und zwar parallel zur sogenannten Energiewende.

    Die rhetorische Diffamierung hatten wir bereits durch Chris. Du hast es vorgezogen statt zu Diffamieren Dir nicht genehme Aussagen ins Lächerliche mit irgendwelchen Aluhutsachen zu ziehen. Ich weiß genau so wie Du das zwischen dem Thema Brandbeschleuniger Wärmedämmung und Deinem Aluhutvergleich kein Zusammenhang besteht. Was Dich aber trotzdem nicht daran hindert eine suggestive Verbindung herstellen zu wollen. Mit anderen Worten Du trollst Beiträge die Dir nicht passen. Wie arm 🙂

  23. @Firetribe
    Du irrst:
    „Polystyrol, besser bekannt als Styropor. Dieser Stoff ist als Dämmmaterial seit Jahren in der Diskussion, denn immer wieder brennen wärmegedämmte Gebäude: In Delmenhorst traf es 2011 gleich fünf Mehrfamilienhäuser, die komplett ausbrannten, weil Jugendliche zwei Verschläge angezündet hatten. 200 Menschen wurden obdachlos. Bekannt wurden bisher über 50 Brände von Fassadendämmungen aus Polystyrol, die genaue Zahl kennt aber niemand, denn eine offizielle Statistik gibt es nicht.

    Polystyrol ist dennoch weiterhin Deutschlands beliebtester Dämmstoff. Er ist billig, leicht zu verarbeiten und klebt an Millionen von Gebäuden.“
    aus: http://www.ndr.de/nachrichten/hamburg/Waermedaemmung-Ignoranz-der-Brandgefahr,waermedaemmung205.html
    Es sind tatsächlich die sog Klimaforscher die dies – unterstützt von der Bauindustrie – fordern und vom Gesetzgeber da massiv unterstützt werden. Der Auslöser in London war ein defekter Kühlschrank aber katastrophal wurde es wegen der neuen Wärmedämmung.

    @Martin Schlatter
    Gerade der IS ist bekannt für seine intensive und erfolgreiche Nutzung der sozialen Medien und allerlei Kommunikationstechniken. Insofern hat diese Initiative von Google einen durchaus ernsten Hintergrund. Die NSA hat wohl erkannt, daß sie beim Abhören gut sind aber nicht beim Stillegen. Da muß Google höchstselbst ran.

  24. *Holt sich eine Tüte Chips aus dem Schrank, macht sich ein Bier auf und genießt die Show*

Du willst nichts verpassen?
Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den Hauptfeed abonnieren. Alternativ könnt ihr euch via E-Mail über alle neuen Beiträge hier im Blog informieren lassen. Einfach eure E-Mail-Adresse hier eingeben, dann bekommt ihr 1x täglich morgens eine Zusammenstellung. Mit dem Absenden willigst du unserer Datenschutzerklärung und der Speicherung von dir angegebener, personenbezogener Daten zu.