KI-Systeme im Visier russischer Desinformation

Foto von Taylor Vick auf Unsplash

Die Manipulation von künstlicher Intelligenz durch gezielte Desinformation entwickelt sich zu einer ernsthaften Bedrohung für die digitale Informationslandschaft. Das russische Pravda-Netzwerk, ein umfangreiches Propagandasystem mit Sitz in Moskau, beeinflusst systematisch die Antworten westlicher KI-Chatbots mit prorussischen Narrativen, so ein Bericht von France24.

Aktuelle Untersuchungen der Organisation NewsGuard sollen gezeigt haben: Bei Tests mit zehn führenden KI-Chatbots – darunter die von Microsoft, Google, OpenAI, You.com, xAI, Anthropic, Meta, Mistral und Perplexity – wiederholten diese in mehr als 33 Prozent der Fälle Argumente aus dem Pravda-Netzwerk. Diese Form der Manipulation wird von Forschern als „LLM-Grooming“ bezeichnet – eine Methode, bei der die Trainingsdaten der Sprachmodelle gezielt mit Fehlinformationen geflutet werden.

Allein im Jahr 2024 wurden 3,6 Millionen Artikel mit russischer Propaganda in die Datenbestände westlicher KI-Systeme eingespeist. Das Pravda-Netzwerk, das seit April 2022 aktiv ist, hat seine Reichweite auf 49 Länder ausgedehnt und produziert Inhalte in verschiedenen Sprachen.

Die Funktionsweise des Systems ist raffiniert: Pravda erstellt keine eigenen Inhalte, sondern aggregiert Material aus russischen Staatsmedien und von pro-kremltreuen Influencern. Diese Inhalte werden dann über Plattformen wie X, Telegram und Bluesky verbreitet. Besonders problematisch ist angeblich, dass renommierte KI-Systeme wie ChatGPT-4, Microsoft Copilot, Meta AI und Google Gemini diese Desinformation aufgreifen und weitergeben.

John Mark Dougan, ein zum Kreml-Propagandisten gewordener US-Flüchtling, beschrieb auf einer Konferenz in Moskau die Strategie: Durch das gezielte Einbringen russischer Narrative in KI-Systeme soll die weltweite Wahrnehmung beeinflusst werden. Diese systematische Manipulation der KI-Infrastruktur stellt eine neue Dimension der Informationskriegsführung dar.

„Indem das Netzwerk Suchergebnisse und Webcrawler mit kremlfreundlichen Unwahrheiten überflutet, verzerrt es die Art und Weise, wie große Sprachmodelle Nachrichten und Informationen verarbeiten und präsentieren“, heißt es in seinem Bericht von NewsGuard.

Sich blind auf Ergebnisse aus einer KI zu berufen, ist die eine Sache – nachrichtentechnisch sollte man sich heute bei Interesse breiter aufstellen, wenn man wirklich an gewissen Dingen interessiert ist. Denn die Propaganda und Pro-für-irgendwas-Bots findet man wohl überall. Vermutlich auch in und aus Deutschland.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.

Gefällt dir der Artikel? Dann teile ihn mit deinen Freunden.

Avatar-Foto

Hallo, ich bin Carsten! Ich bin gelernter IT-Systemelektroniker und habe das Blog 2005 gegründet. Baujahr 1977, Dortmunder im Norden, BVB-Fan und Vater eines Sohnes. Auch zu finden bei X, Threads, Facebook, LinkedIn und Instagram.

Neueste Beiträge

Mit dem Absenden eines Kommentars stimmst du unserer Datenschutzerklärung und der Speicherung von dir angegebener, personenbezogener Daten zu.

31 Kommentare

  1. Offenbar gibt es immer nur „eine regionale Wahrheit“, die es Global Anderen aufzuzwingen gilt. Das funktionierte noch nie.

    Sich blind auf Schlagworte zu werfen ist etwas kurzsichtig. Wert entscheidend was Unwahrheiten sind und seit wann haben nur die Gegner Propaganda, man selbst nur die reinste Wahrheit?
    Was vor Jahren bei uns noch als unumstößlich und unstrittig galt, ist jetzt und heute „verboten“ und folglich „Desinformation“.

    Die selben Narrative, die hier gesponnen und gesponsert werden, sind beim den „Anderen“ genau gegenteilig und diese denken sich über uns wie verdreht wir doch alle sind. Aber wie praktisch, dass immer nur „wir“ die „Guten“ sind und die Anderen im Unrecht.

    Das fing schon bei Adam an, da war Gott selbst schuld weil „er ihm diese Frau“ gab und zu ihrer Verteidigung, war auch jemand anderer schuld…

    • Ich denke, spätestens seit Februar 2022 sind die Rollen doch ziemlich klar verteilt, oder? Ich weiß nicht, was es da noch zu argumentieren gibt.

      • Nur weil der Krieg im Februar 2022 vom russischen Boden ausging macht es nicht die Komplette Geschichte falsch noch hilft es uns den Konflikt zu lösen. Wenn man natürlich am Regime Change in Russland und einem NATO Krieg und eingreifen Interesse hat, so muss man natürlich keine Diplomatie betreiben und alles tun damit die Menschen nicht die Gegenseite auch nur versuchen könnten zu verstehen. Putinversteher!
        Ob nun Trump, Putin oder sonst wer, hier im Westen rühmt man sich in den letzten Jahren mit Methoden die man dem Feind vorwirft. Und während man für die Vorwürfe oft keinerlei Belege vorlegen kann, sieht jeder der nur minimal selbst ältere Berichte ließt, aus den gleichen westlichen Quellen, wie das Narrativ verschoben wurde.
        Aber ja, wir haben immer die Freiheitskämpfer, und die anderen sind die Terroristen. Wir sind immer die Guten und alle die wir Unterstützen waren immer die Guten. Bloß nicht in die Geschichtsbücher schauen.

        • Muss man so etwas hier eigentlich veröffentlichen? Wo bleibt die Selbstkontrolle der Redaktion?

          • Diese Unsitte greift leider in letzter Zeit verstärkt um sich. Wenn eine Diskussion schwierig wird, ertönt der Schrei nach Zensur und Verboten. Das ist einer offenen Gesellschaft nicht würdig. Und das wird für alle mittelfristig zu Nachteilen führen.

          • You can call me names.
            Einfach löschen dann isses nicht da. Vielleicht hörst du den Leuten mal zu deren Meinung du nicht bist?!?!

        • Richtig.

          Am auffälligsten enttarnt sich eine Propaganda damit, dass sie täglich und hartnäckig wiederholt werden muss „unprovoziert“ und andere auffällig wiederholten Worte, die wenn es andere Mächte waren nicht genannt werden.

          Interessant auch wie es kein souveränes Land oder gar „Volk“ gibt, wenn es nicht im Interesse des Narratives liegt. „Jugoslawen“ (Südslawen, Slawen im Süden) war laut Narrativ eine Art künstlich entstandene Gruppe. Dafür gibt es aber „Bosnier“, was im Grunde auch nur eine örtliche Beschreibung von Menschen ist, die nicht wirklich einzuordnen ist. (Bosnier vs. Bosnischer Kroate/Serbe)

          Krainer Serben, Slowenische Krajina (Serben/Slowenen, an einem Ende lebend, Rand-Gebiet) vs. Ukrainern (Im / Am Ende Lebenden). Während die Einen eindeutig eine erkennbare Ethnie sind, sind die Anderen verdammt dazu ein perfekter Spielball zusein ohne zwingenden Bezug zu was sie eigentlich das „Ende“ sind. Keiner fragt heute wo die dort lebenden Polen geblieben sind, da sie als „Ukrainer“ viel besser ins Narrativ passen. Niemand interessiert es wirklich ob es unglücklicher Weise mehrere Ethnien sind, die jeweils ein Ende vom jeweils benachbarten Land sind und was sie selber tatsächlich wollen. Keiner.

      • MeinNametutnichtszurSache says:

        Ich denke, spätestens seit

        1964 – Vietnam
        1983 – Grenada
        1989 – Panama
        1999 – Kosovo
        2001 – Afghanistan
        2003 – Irak
        2011 – Libyen
        2015 – Jemen

        sind die Rollen doch ziemlich klar verteilt, oder? Ich weiß nicht, was es da noch zu argumentieren gibt.

        Ups, 2022 ist was gaaaaaanz anderes.

  2. Kann es sein, dass das Gefährlichste an KI-Systemen die Bezeichnung „Intelligenz“ ist? Für mich verbinden sich mit einer solchen, Vertrauen erheischenden Bezeichnung Vorstellungen von selbständigen Denk- und Abwägeprozessen, die derzeit nicht vorhanden zu sein scheinen. Im Grunde geht es bei KI bisher anscheinend „nur“ um extrem leistungsfähige Mustererkennung in einem vorhandenen Datenbestand. Zweifellos sehr nützlich in vielen Zusammenhängen, aber prinzipiell immer über den Datenbestand beeinflussbar.

    • Genau wie mit dem Wort „Social Media“. „Corporate Media“ wäre passender. Und wir hätten dann auch nicht mehr diese Scheindebatten über „Meinungsfreiheit“.

  3. Ist mir auch bei den generierten K“I“-News von Perplexity aufgefallen, in Bezug auf die chinesische Raumfahrt. Ließt sich ziemlich drollig. 😀

    „Der rekordbrechende Weltraumspaziergang von Cai Xuzhe und Song Lingdong markiert einen bedeutenden Meilenstein im chinesischen Raumfahrtprogramm und zeigt die wachsenden Fähigkeiten des Landes in der bemannten Raumfahrt. Diese Errungenschaft ist Teil einer Reihe bemerkenswerter Leistungen chinesischer Astronauten an Bord der Tiangong-Raumstation.“

    Dieses Muster (Propagandaeinleitung, gefolgt von dem eigentlichen Vorgang, …) wiederholt sich fortlaufend in den „Artikeln“ zum Thema, da die meiste „Berichterstattung“ logischerweise aus China selbst kommt. Letztendlich muss man K“I“ als Pressestelle für Meinungsmacher begreifen, die den meisten Traffic erzeugen.

  4. Bisher wird allgemein KI Systemen vorgeworfen, Ergebnisse scheinbar nach vorheriger Einstellung (auch politisch) auszugehen. Und alle Systeme, egal woher sie kommen, sind nicht „neutral“ oder auschließlich „Fakten“.

    Zudem je nach Zeit sich Fakten und Desinformation ablösen: heute heißt es auf einmal, Virus kam aus dem Labor, gestern war das noch Desinformation oder gar eine „Verschwörungstheorie“, vor zwei Jahren wurden Berichte, die Sanktionen gegen Russland funktionieren nicht als Desinformation bezeichnet.

    Wie sollten da automatisierte Systeme bessere Ergebnisse liefern.

    Wichtiger denn je ist es Nachrichten immer auf ihren Hintergrund hin zu überprüfen und selbst eine Wahrscheinlichkeitseinschätzung vorzunehmen – machen aber die meisten Menschen nicht. Denn sie möchten immer nur ihre Wahrheit aufgetischt bekommen – egal ob in TV oder durch KI.

    Das beginnt hier damit zu fragern, wer da agiert und dahinter steht. Und da sieht es dann schon selbst kritisch aus, wie man in der Kritik über newsguard lesen kann. Nicht nur in Russland gibt es Desinformation und Manipulation.

    So auch in einem Artikel aus heise online von 2019:
    https://www.heise.de/news/Mit-NATO-Haekchen-4449791.html

  5. Letztes waren es noch Auspuffrohre mit Bauschaum und mit Habeck Aufklebern auf den Autos und jetzt die KI?

    • Widerspricht sich das etwa? Das Russland auf vielfältigen Wegen versucht die Stimmung in anderen Staaten zu seinen Gunsten oder gegen seine Gegner zu manipulieren ist doch jetzt wirklich keine Neuigkeit.

      • MeinNametutnichtszurSache says:

        Nein. Passend dazu:

        Das $westlicher_Staat und $westliche_Bündnisse auf vielfältigen Wegen versuch[en] die Stimmung in anderen Staaten zu [ihren] Gunsten oder gegen [ihre] Gegner zu manipulieren ist doch jetzt wirklich keine Neuigkeit.

        Richtig?

  6. LOL, NewsGuard und Nina Jankowicz. Vielleicht einfach mal ganz kurz mit dieser Org und dieser Frau beschäftigen und vielleicht einfach mal selbstständig denken. Z.B. der Biden-Laptop: oh, alles russische Propaganda aber ach, halt, lustigerweise hat sich ja alles als wahr herausgestellt… oder das Steele-Dossier mit der einzig gültigen Wahrheit aber ach nein, war doch nur alles erfunden und erlogen.

    Ihr lest den ganzen Tag einseitige Narrative des Westens und immer wieder die gleichen „Einordnungen“ der entsprechenden „Experten“ und wie man heute weiss, sind viele dieser alle von den USA, genauer dem State Department, finanziert. Siehe USAID, OCCRP, NED usw. es kam doch erst vor kurzem heraus, dass hier zig tausende Journalisten bezahlt werden um westliche Narrative zu verbreiten. Man hat es doch nun schwarz auf weiss.

    Die Frage ist, wer hier in einer Propaganda-Bubble lebt und wer nicht. Aber egal: ALLE machen Propaganda, nur nennen wir es hier halt nicht so. Vielleicht begreifen nun wenigstens ein paar mehr Leute, dass KI die perfekte Propaganda-Maschine ist.

    Lebt halt weiter in eurer Bubble: denn ihr seid die GUTEN! Rüstet auf und nehmt die Waffen in die Hand, es geht nach Osten gegen Russland und dann auch gegen China auf dass das US-Empire weiter sein Unwesen treiben kann!

    Ist nur noch traurig zu sehen wie vermeintlich intelligente Menschen sich so einfach manipulieren lassen 🙂 🙂

    • In Russland gibt es keine freie Presse, keine politisch negative Berichterstattung. Was möchtest du hier erzählen?

      • Erstens stimmt das nicht und zweitens geht es nicht darum. Mir ist vollkommen egal was in Russland passiert, ich lebe (noch) im Westen und es interessiert mich was hier passiert.

        Und hier kann jeder vernünftige Mensch beobachten, dass es keinerlei objektive Berichterstattung gibt, die verschiedene Perspektiven einnehmen würde oder die mittels Pro-Contra-Argumenten versuchen würde der Wahrheit näher zu kommen.

        Es gibt hier nur eine Wahrheit, ein Narrativ und dieses muss mit aller Gewalt verteidigt werden. Und das ist nicht nur im (geo)politischen Bereich zu sehen. Nein, wir sehen es auch bei gesellschaftlichen Themen, bei technologischen Themen usw.

        Und wenn man versucht Dinge differenziertet zu betrachten, dann steht man plötzlich schnell in irgendeiner Ecke: entweder man ist Putin-Troll, ein rechter Schwurbler oder ein Apple-Fanboy oder eben linksgrüner Sozialist. Schön ein Label dranpappen und fertig, mit den Argumenten oder anderen Sichtweisen muss man sich dann nicht mehr beschäftigen.

        Wie hier unten zu sehen: jetzt sind die Stimmen hier schon St. Petersburger Trolle – genau, die suchen sich ein deutsches Mini-Blog um hier für Russland Stimmung zu machen… ehrlich jetzt?

        Oder hier oben wird von chinesischer Propaganda gesprochen weil von einem „rekordbrechenden Weltraumspaziergang“ gesprochen wird. Ja lustig, ehrlich, genau das war es halt auch und selbst das Handelsblatt oder der MDR sprechen genau so davon:

        https://www.mdr.de/wissen/astronomie-raumfahrt/news-chinas-neun-stunden-weltraumspaziergang-und-rekord-100.html

        Aber hey, alles böse China-Propaganda. Da fragt man sich wirklich wieviel Hirn hier überhaupt noch übrig ist und ob die Menschen sich irgendwann mal bemühen sich selbst Medienkompetenz anzueignen anstatt alles nur nachzubeten.

        • +
          Die Realität kommt auch in den Westen. Solange gilt Bitte keine eigene Meinungen es könnten sich andere infizieren!

      • MeinNametutnichtszurSache says:

        Und hier gibt es das? Welche „freie“ Presse meinst du? BILD? FAZ? SÜDDEUTSCHE? Und warum glaubst du, gibt es keine negative Berichterstattung? Offenbar kennst du Telegram, YouTube, VK, Reddit und Discord nicht… oder gar The Moscow Times und Nowaja gaseta.

        Aber hey… widdewidde

        • Mira Bellenbaum says:

          Alleine schon der Zweifel, dass es hier eine freie Presse gibt, zeigt, wessen Geisteskind Du bist!
          Aber klar, Russland und China sind lupenreine Demokratien und es herrscht dort über all die freie Meinungsäußerung!

  7. >heute heißt es auf einmal, Virus kam aus dem Labor, gestern war das noch Desinformation

    Das stimmt ja nicht. Es gab schon immer eine Wahrscheinlichkeit und eine Einschätzung dazu. Das hat sich auch nicht geändert. Das eine oder das andere undifferenziert zu behaupten, ohne sich auf Fakten zu beziehen, ist das Problem.

    >Das beginnt hier damit zu fragern, wer da agiert und dahinter steht.

    Sobald du „cui bono?“ fragst, hältst du dich nicht mehr an die Fakten, sondern dichtest dir etwas zusammen.

    • Wenn es immer um Wahrscheinlichkeiten ging, warum wurde dann eine Wahrscheinlichkeit zensiert, gelöscht oder als Fake News, Propaganda etc. betitelt während die andere Wahrscheinlichkeit über alle Medien hinweg verbreitet wurde? Rein zufällig? Die ganze Geschichte hatte nichts mit Wissenschaft und Wahrheitsfindung zu tun, es gab ein offensichtlich ein politisches und wirtschaftliches Interesse, und dem sind alle Medien und käuflichen Wissenschafter hinterhergerannt. Sie haben ihre Kollegen vom gleichen Fach defamiert, Lügen verbreitet und die Menschen absichtlich verängstigt.
      Es hat nichts mit Dazusichten zu tun, auf natürliche Weise wird kein Narrativ gebannt während ein anderes, oft Wort für Wort, verbreitet wird.

      • Mira Bellenbaum says:

        Eventuell, sind diese Informationen deshalb zurückgehalten worden, um ….
        1. China nicht vor den Kopf zu stoßen.
        2. die Menschen nicht zu beunruhigen.
        3. es sich weder bestätigen noch widerlegen ließ.
        4. es mit Sicherheit noch andere Gründe für die „Geheimhaltung“ gab.

        Ach, und in der Wissenschaft ist man sehr wohl eher davon ausgegangen, dass das Virus
        von einem Zwischenwirt auf den Menschen übergesprungen ist!

  8. Gut, dass es von der EU ausgehend gar keine Propaganda gibt.
    Wir sind die Guten.

  9. Junge, Junge, dieser Beitrag hat in St.Petersburg aber für ganz schön Wirbel gesorgt.
    Da wurde ja gleich ein ganzes Team aktiviert um hier die einzig wirklich echte Wahrheit zu verbreiten.

  10. Wird hier jetzt jeder Unsinn von der Redaktion durchgelassen?

Es werden alle Kommentare moderiert. Lies auch bitte unsere Kommentarregeln:

Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen. Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte - gerne auch mit Humor. In jedes Thema Politik einbringen ist nicht erwünscht.

Du willst nichts verpassen?

Du hast die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den Hauptfeed abonnieren.