KI-Assistenten: Test zeigt, dass Nutzermeinungen durch Algorithmen beeinflusst werden

KI-Assistenten sind immer mehr auf dem Vormarsch, an jeder Ecke und in jedem Browser findet der Nutzer mittlerweile Möglichkeiten, auf ChatGPT und Co. zuzugreifen und deren Systeme für sich zu nutzen. Doch was, wenn ein Programmierer einer solchen KI bewusst so programmiert hat, dass seine KI in der Lage ist, nach und nach ganz unbemerkt die Meinung zu Themen wie Politik und Co. beim Nutzer zu beeinflussen? Dieser Frage hat sich Maurice Jakesch, ein Doktorand der Informationswissenschaften an der Cornell University, gewidmet und genau auf dieser Grundlage einen eigenen KI-Schreibassistenten geschaffen.

In seinem Test wurde einer Gruppe von Probanden eine positiv-beeinflussende KI vorgesetzt – natürlich ohne das Wissen der Probanden. Einer zweiten Gruppe wurde eine negativ-beeinflussende KI zur Verfügung gestellt. Das Resultat seiner Tests ergab, dass beide Gruppen mit doppelt so hoher Wahrscheinlichkeit der in die KI eingebauten Voreingenommenheit folgten, selbst wenn sie ursprünglich eine andere Meinung hatten. Dabei schreibt man bei Ars Technica aber auch korrekt:

KI mag überzeugend genug sein, um uns zu beeinflussen, aber wir haben die Macht, sie zu kontrollieren. Software kann nur so weit in das Schreiben eingreifen, wie es ihre Schöpfer programmieren – und so weit, wie die Autoren es ihnen erlauben. Jeder Autor kann eine KI zu seinem Vorteil nutzen, indem er den von einer KI generierten Text so bearbeitet, dass er eine bestimmte Botschaft wiedergibt.

Es bleibt also dabei: Wer KI-Assistenten blind vertraut, der läuft natürlich auch Gefahr, durch ihre Ersteller beeinflusst zu werden. Das sollte jedermann mehr als bewusst sein. Die Systeme sind mit Sicherheit durchaus in der Lage, nützlich unter die Arme zu greifen und hier und da sinnvolle Lösungen zu finden, auf die man selbst so schnell nie gekommen wäre. Antworten generieren lassen, kopieren und abnicken kann aber mitnichten der korrekte Umgang mit solchen Systemen sein.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.

Gefällt dir der Artikel? Dann teile ihn mit deinen Freunden.

Avatar-Foto

Nordlicht, Ehemann und Vater. Technik-verliebt und lebt fürs Bloggen. Außerdem: Mail: benjamin@caschys.blog / Mastodon

Neueste Beiträge

Mit dem Absenden eines Kommentars stimmst du unserer Datenschutzerklärung und der Speicherung von dir angegebener, personenbezogener Daten zu.

5 Kommentare

  1. gilt doch nicht nur für KI! Auch Redakteure Blogs Fratzenbuch und Co. beinflussen die Meinung der Menschen die sie nutzen und das sogar weitaus mehr und niederträchtiger. Ne KI hat keine (derzeit noch) finanzielle oder politische Interssen.
    Etwas manipulativeres als die Medien gibt es doch derzeit gar nicht!

    Als Nutzer bdeutet das alles zu hinterfragen und slbst zu denken… was der Menschheit seit Jahrzenten schleichend abhanden kommt.

  2. Ist doch wirklich nichts neues. Kann nur die Bücher (Massenradikalisierung, Radikalisierungsmaschinen und Wut) von Julia Ebner empfehlen.

    • Die Dame ist wohl auf dem linken Auge blind! In dem Buch geht es nur um Rechtsradikale Christen und Muslime.

  3. ChatGPT war gestern… schaut euch mal lieber bratgpt.com an. Da bekommt man die echten Wahrheiten xD

  4. Ob „Haltungsjournalismus“ unmittelbar und direkt oder mittelbar mit einer von Menschen trainierten und ausgerichteten KI praktiziert wird, es bleibt Bevormundung.

Es werden alle Kommentare moderiert. Lies auch bitte unsere Kommentarregeln:

Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen. Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte - gerne auch mit Humor. In jedes Thema Politik einbringen ist nicht erwünscht.

Du willst nichts verpassen?

Du hast die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den Hauptfeed abonnieren.