KI-Assistenten: Test zeigt, dass Nutzermeinungen durch Algorithmen beeinflusst werden

KI-Assistenten sind immer mehr auf dem Vormarsch, an jeder Ecke und in jedem Browser findet der Nutzer mittlerweile Möglichkeiten, auf ChatGPT und Co. zuzugreifen und deren Systeme für sich zu nutzen. Doch was, wenn ein Programmierer einer solchen KI bewusst so programmiert hat, dass seine KI in der Lage ist, nach und nach ganz unbemerkt die Meinung zu Themen wie Politik und Co. beim Nutzer zu beeinflussen? Dieser Frage hat sich Maurice Jakesch, ein Doktorand der Informationswissenschaften an der Cornell University, gewidmet und genau auf dieser Grundlage einen eigenen KI-Schreibassistenten geschaffen.

In seinem Test wurde einer Gruppe von Probanden eine positiv-beeinflussende KI vorgesetzt – natürlich ohne das Wissen der Probanden. Einer zweiten Gruppe wurde eine negativ-beeinflussende KI zur Verfügung gestellt. Das Resultat seiner Tests ergab, dass beide Gruppen mit doppelt so hoher Wahrscheinlichkeit der in die KI eingebauten Voreingenommenheit folgten, selbst wenn sie ursprünglich eine andere Meinung hatten. Dabei schreibt man bei Ars Technica aber auch korrekt:

KI mag überzeugend genug sein, um uns zu beeinflussen, aber wir haben die Macht, sie zu kontrollieren. Software kann nur so weit in das Schreiben eingreifen, wie es ihre Schöpfer programmieren – und so weit, wie die Autoren es ihnen erlauben. Jeder Autor kann eine KI zu seinem Vorteil nutzen, indem er den von einer KI generierten Text so bearbeitet, dass er eine bestimmte Botschaft wiedergibt.

Es bleibt also dabei: Wer KI-Assistenten blind vertraut, der läuft natürlich auch Gefahr, durch ihre Ersteller beeinflusst zu werden. Das sollte jedermann mehr als bewusst sein. Die Systeme sind mit Sicherheit durchaus in der Lage, nützlich unter die Arme zu greifen und hier und da sinnvolle Lösungen zu finden, auf die man selbst so schnell nie gekommen wäre. Antworten generieren lassen, kopieren und abnicken kann aber mitnichten der korrekte Umgang mit solchen Systemen sein.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.