OpenAI hält ein Tool zurück, das ChatGPT-Texte mit Wasserzeichen versehen könnte
von André Westphal | 9 Kommentare
OpenAI – Logo des Unternehmens
OpenAI hat bestätigt, dass man ein Tool in der Hinterhand hält, um mit ChatGPT erstellte Texte mit versteckten Wasserzeichen zu versehen. Das könnte dann etwa in Schulen und Universitäten helfen, mit ChatGPT erstellte Hausaufgaben / Hausarbeiten zu erkennen. Allerdings zögert das Unternehmen damit, die Software zu veröffentlichen.
OpenAI hat deswegen einen älteren Blog-Post aus dem Mai 2024 aktualisiert und Einblicke in seine Entscheidungsprozesse geliefert. So könne man zwar recht verlässliche Wasserzeichen für mit ChatGPT erstellte Texte liefern, allerdings sei das Ganze immer noch anfällig für Fehler. Würden die Texte etwa durch einen Übersetzer oder eine weitere generative KI gejagt, funktioniere das Schema nicht mehr zuverlässig. Selbiges gelte auch, wenn jemand sich eines einfachen Tricks bediene und die KI etwa bitte, nach jedem Wort ein bestimmtes Zeichen wie einen Doppelpunkt einzufügen und dies später wieder entferne.
Ebenfalls befürchtet OpenAI, dass solche Wasserzeichen am Ende die Falschen treffen könnten. Beispielsweise nutzen oft Fremdsprachler generative KI, um bei der Verfassung von Texten eine Hilfe zu haben. Der Einsatz von Wasserzeichen könnte diese Verwendung stigmatisieren. Deswegen gibt OpenAI an, dass man sich aktuell auf Authentifikations-Tools für audiovisuelle Inhalte fokussiere.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Ich halte ja noch nicht viel von aktueller KI, aber dass eine mit solchen geschützten Texten gefütterte KI nach kurzer Zeit die Wasserzeichen erkennen und entfernen kann, halte ich dann doch für extrem wahrscheinlich.
Den Wettlauf wird die KI gegen sich selber verlieren.
Der richtige Ansatz ist nicht den Taschenrechner zu verbieten sondern den Menschen mathematischen Denken beizubringen, das sie zusammen mit dem Taschenrechner besonders weit treiben können.
Es ist immer das selbe mit Neuerungen die Fleißarbeiten entwerten und mehr menschliche Eigenschaften wie Kreativität oder auch Unzufriedenheit (Beginn jeder Lösung) belohnen. All jene die bisher vor allem durch Fleißarbeit hervorstechen konnten oder sonstwie darauf bauten fühlen sich gestört. Beispielsweise das Prüfungssystem, das aus Bequemlichkeit gerne oberflächlich mit Checkliste bewertet.
Führt man ein Prüfungsgespräch, sei es über die schriftliche Arbeit, wird schnell klar ob derjenige eine KI nur als Werkzeug benutzt hat oder zur Arbeitsvermeidung.
Ein persönliches Gespräch kann man nicht mit einer KI faken und wer sein Thema drauf hat wird überzeugen können.
Am Ende könnten sogar sinnvollere Prüfungen stehen, sowie Prüfungsergebnisse die echte Kompetenzen besser bewerten könnten. Denn in keinem Berufsfeld funktioniert die Anwendung von Kompetenzen später einmal so wie in einer schriftlichen Prüfung, das ist eine weltfremde Art der Kompetenzprüfung. Aber eben besonders bequem für die Prüfenden. Und darum geht’s am Ende wirklich.
Es geht nicht primär um Bequemlichkeit für den Prüfenden, sonderm um Vergleichbarkeit und nicht zuletzt auch um Prüfungen, die man mit vertretbarem Aufwand und Resourcen durchführen kann. Mündliche Prüfungen sind wahrscheinlich das Mittel der Wahl, wenn man dem zu Prüfenden wirklich auf den Zahn fühlen will. Macht man aber nur bestimmten Fällen, z.B. in Abschlussprüfungen.
100 Studenten den Stoff eines Semesters abzuprüfen dauert in einer Klausur 3 Stunden plus Zeit für die Auswertung. 100 x 3 Stunden mündliche Prüfung, wer sollte das machen?
Qualität statt Quantität.
Vor 30 Jahren haben Studenten eine Handvoll Prüfungen abgelegt. Und es hat offensichtlich funktioniert, alle Boomer Akademiker wurden so ausgebildet. Jetzt mindestens 3 pro Semester (standardmäßig 3 Module pro Semester).
Prüfungen auf das frühere Maß zurück, mehr Eigenverantwortung und wer bis zur Abschlussprüfung usw. gepennt und nichts gemacht hat ist selbst schuld.
Dafür wurden die Ansprüche an die Studierenden insgesamt massiv reduziert, das Niveau ist nicht mehr mit früher vergleichbar.
Früher war alles besser? Das ist zu einfach. Die Schulbildung durch das Abitur wird wohl tendenziell schwächer und auch die Leistungen in einzelnen (klassischen) Studienfächern, aber es kommen ja auch ständig neue Lerninhalte dazu. Ein Ingenieursstudium ist heute etwa kaum noch mit dem vor >10 Jahren vergleichbar. Die Studierenden werden besser in Informatik ausgebildet, werden in Medienkompetenz geschult (welche Werkzeuge, welche Quellen sind verlässlich), und müssen zB viel mehr in englischer Sprache machen. Ich glaube, dass die meisten Studierenden heute besser (für die heutige Zeit!) ausgebildet sind als früher.
Die „Verschulung“ des Studiums haben wir Sparmaßnahmen der Politik zu verdanken, welche die Umstellung von Diplom auf Bachelor / Master vorangetrieben hat. Die Argumentation, das würde die „Vergleichbarkeit“ der Abschlüsse garantieren, war kompletter Dummfug und das wusste auch jeder Hochschullehrer. Am Ende ging es darum, Geld zu sparen.
Das Ergebnis ist, dass wir jetzt in den Studiengängen einen viel verschulteren und eingeschränkteren Aufbau haben, bei dem viele Studenten nicht mehr für Inhalte, sondern für Credit Points studieren.
Dieser Taschenrechner vergleich ist naiv und zeugt von fehlendem didaktischen Verständnis. Erstens kann man mit ChatGPT viel gefährlichere Dinge in die Welt setzen als mit einem Taschenrechner („Halluzinationen“). Zweitens wird in der Grundschule natürlich der Taschenrechner verboten, wenn man Arithmetik lernt. Warum sollte man dann nicht an der Uni oder wo auch immer, wenn man zB Programmieren lernt Copilot und Co verbieten (zumindest bis die Studierenden das ausreichend beherrschen)? Wie soll ich denn sonst später Fehler finden?
Wie sillen solche Wasserzeichen eigentlich aussehen?