OpenAI hält ein Tool zurück, das ChatGPT-Texte mit Wasserzeichen versehen könnte
von André Westphal | 3 Kommentare
OpenAI – Logo des Unternehmens
OpenAI hat bestätigt, dass man ein Tool in der Hinterhand hält, um mit ChatGPT erstellte Texte mit versteckten Wasserzeichen zu versehen. Das könnte dann etwa in Schulen und Universitäten helfen, mit ChatGPT erstellte Hausaufgaben / Hausarbeiten zu erkennen. Allerdings zögert das Unternehmen damit, die Software zu veröffentlichen.
OpenAI hat deswegen einen älteren Blog-Post aus dem Mai 2024 aktualisiert und Einblicke in seine Entscheidungsprozesse geliefert. So könne man zwar recht verlässliche Wasserzeichen für mit ChatGPT erstellte Texte liefern, allerdings sei das Ganze immer noch anfällig für Fehler. Würden die Texte etwa durch einen Übersetzer oder eine weitere generative KI gejagt, funktioniere das Schema nicht mehr zuverlässig. Selbiges gelte auch, wenn jemand sich eines einfachen Tricks bediene und die KI etwa bitte, nach jedem Wort ein bestimmtes Zeichen wie einen Doppelpunkt einzufügen und dies später wieder entferne.
Ebenfalls befürchtet OpenAI, dass solche Wasserzeichen am Ende die Falschen treffen könnten. Beispielsweise nutzen oft Fremdsprachler generative KI, um bei der Verfassung von Texten eine Hilfe zu haben. Der Einsatz von Wasserzeichen könnte diese Verwendung stigmatisieren. Deswegen gibt OpenAI an, dass man sich aktuell auf Authentifikations-Tools für audiovisuelle Inhalte fokussiere.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Ich halte ja noch nicht viel von aktueller KI, aber dass eine mit solchen geschützten Texten gefütterte KI nach kurzer Zeit die Wasserzeichen erkennen und entfernen kann, halte ich dann doch für extrem wahrscheinlich.
Den Wettlauf wird die KI gegen sich selber verlieren.
Der richtige Ansatz ist nicht den Taschenrechner zu verbieten sondern den Menschen mathematischen Denken beizubringen, das sie zusammen mit dem Taschenrechner besonders weit treiben können.
Es ist immer das selbe mit Neuerungen die Fleißarbeiten entwerten und mehr menschliche Eigenschaften wie Kreativität oder auch Unzufriedenheit (Beginn jeder Lösung) belohnen. All jene die bisher vor allem durch Fleißarbeit hervorstechen konnten oder sonstwie darauf bauten fühlen sich gestört. Beispielsweise das Prüfungssystem, das aus Bequemlichkeit gerne oberflächlich mit Checkliste bewertet.
Führt man ein Prüfungsgespräch, sei es über die schriftliche Arbeit, wird schnell klar ob derjenige eine KI nur als Werkzeug benutzt hat oder zur Arbeitsvermeidung.
Ein persönliches Gespräch kann man nicht mit einer KI faken und wer sein Thema drauf hat wird überzeugen können.
Am Ende könnten sogar sinnvollere Prüfungen stehen, sowie Prüfungsergebnisse die echte Kompetenzen besser bewerten könnten. Denn in keinem Berufsfeld funktioniert die Anwendung von Kompetenzen später einmal so wie in einer schriftlichen Prüfung, das ist eine weltfremde Art der Kompetenzprüfung. Aber eben besonders bequem für die Prüfenden. Und darum geht’s am Ende wirklich.
Es geht nicht primär um Bequemlichkeit für den Prüfenden, sonderm um Vergleichbarkeit und nicht zuletzt auch um Prüfungen, die man mit vertretbarem Aufwand und Resourcen durchführen kann. Mündliche Prüfungen sind wahrscheinlich das Mittel der Wahl, wenn man dem zu Prüfenden wirklich auf den Zahn fühlen will. Macht man aber nur bestimmten Fällen, z.B. in Abschlussprüfungen.
100 Studenten den Stoff eines Semesters abzuprüfen dauert in einer Klausur 3 Stunden plus Zeit für die Auswertung. 100 x 3 Stunden mündliche Prüfung, wer sollte das machen?