OpenAI: ChatGPT-Macher veröffentlichen Erkennungstool für AI-Texte
von caschy | 31 Kommentare
Die Entwickler von ChatGPT versuchen Nutzern dabei zu helfen, Texte aufzuspüren, die von künstlicher Intelligenz geschrieben wurden. Das Unternehmen dahinter, OpenAI, könnte Lehrern so helfen, Inhalte von Schülern auf deren Eigenleistung zu überprüfen. Vermutlich werden alle hier mitlesenden Lehrkräfte in den letzten Monaten Texte gesehen haben, die irgendwie nach ChatGPT aussahen. Die Inhalte lesen sich in den meisten Fällen gut erklärt, aber teilweise auch inhaltlich haarsträubend falsch. Wie dem auch sei: OpenAI weist darauf hin, dass sein neues Tool, der AI Text Classifier nicht narrensicher ist. Die Methode zur Erkennung von KI-geschriebenem Text ist unvollkommen und wird manchmal falsch sein. Zur Analyse werden mindestens 1.000 Zeichen, d. h. etwa 150 bis 250 Wörter, benötigt. Besonders wichtig: Der Klassifikator wird bei Texten, die von Kindern geschrieben wurden, und bei Texten, die nicht in englischer Sprache verfasst sind, wahrscheinlich falsch liegen, da er in erster Linie mit englischen Inhalten trainiert wurde, die von Erwachsenen geschrieben wurden.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Dieses ChatGpt… Ich weiß nicht.
Ständig fehlerhafte Antworten, obwohl ich schon bei der Fragestellung berücksichtigt habe dass der Datenbestand von 2021 ist.
Spielt mal Tic-tac-toe. Hört einen Zug zu früh aus und gratuliert zum Sieg, hätte aber gewinnen können. Entschuldigt sich ständig für Fehler.
Nette Spielerei, Zeitvertreib, aber nix richtiges.
Jo, für den Standard Internet DAU ist das tatsächlich so. Ich habe mir gestern ein PHP Script programmieren lassen, dass mir Amazon Artikel via API klassifiziert, nach bestimmten Punkten sortiert, in eine mySQL Datenbank schreibt, auswertet (grafisch inkl. CSS style, optisch schönen AJAX spielereien und textlich) und per Mail verschickt als cron job. Anfrage dauerte 30 Sekunden, Antwort ca. 30 Sekunden, das ganze 3 mal hintereinander. Wenn ich das programmiert hätte, hätte ich mindestens 1-2 Stunden dran gesessen. Seit es den Bot gibt, hab ich mir ca. 30 Skripte bisher programmieren lassen und mir eine ganze Woche Arbeit erspart.
Aber ja, nette Spielerei, Zeitvertreib, nix richtiges.
Bedeutet also das ChatGPT besser ist, sich die Inhalte von StackOverflow zu holen, als du – korrekt? 😉
Auch die ganzen Technologien die du genannt hast, sind halt recht low level – somit im Bereich des Entwickler DAU anzusiedeln. Wirklich komplexe Inhalte und welche nicht heißen „Make a Twittert clone“ lassen sich von ChatGPT nach meinen Erfahrungen nicht entwickeln.
Soll nicht heißen, dass es nicht irgendwann so kommen wird – jedoch ist deine Hochnäsigkeit nicht wirklich angebracht.
Von „besser“ war nie die Rede – es ist einfach viel, viel schneller. Bei Stackoverflow krieg ich auch nur „templates“, die ich dann noch anpassen muss und mir aus den Snippets zusammenbasteln muss. Alles das macht ChatGPT für mich. Ich muss nur die richtige Anfrage stellen. Und am Rande: Schau mal in Youtube, was ChatGPT bisher schon alles realisiert hat. Du findest genügend Beispiele für komplexe Projekte.
Aber OK, damit ihr euch beruhigt: Ihr habt recht, das ist alles total unnütz, am besten verbrennen wir es gleich. Diese blöde neue Technologie, früher war alles besser.
Es ist eben genau nichts von beidem, weder ist dombo als Standard Internet DAU zu betiteln, noch ist es zu verbrennen.
Es ist eine wahnsinnige Entwicklung, die beeindruckend ist – aber es ist eben auch (noch) begrenzt.
Auch bei google finde ich fehlerhafte Antworten.
Letztendlich ist dieses Tool super, wenn man sich in der Materie, die man bespricht, zumindest grundlegend auskennt und/oder die Antworten direkt überprüfen kann (wie z. B. beim programmieren etc.).
Abhängig vom Anwendungsfall -> eine tolle Arbeitserleichterung, wenn man weiß, wie man es nutzen kann. Habe bei mir privat einiges automatisiert (mit docker, python oder autohotkey). Viele Skripte, die ich sonst nie geschrieben hätte, konnte ich mit chatgpt in kurzer Zeit entwickeln.
Man steht halt immer noch am Anfang – es ist ja nur eine Beta/Preview. Das Teil wächst ja grad erst durch die zig Mio. Eingaben pro Tag.
Bei Google kann man aber die Quelle zusätzlich bewerten bei einer Antwort.
Bei anderen Menschen kann man sogar fragen, „wie kommst du zu dieser Aussage“.
Der Bot behauptet es einfach ohne Nachvollziehbarkeit und das ist ein großes Risiko.
Du sagst nichts anderes, als dass ChatGPT genauso zuverlässig ist wie ein Mensch. Hm …
Der Text dieses Artikels ist demnach wahrscheinlich AI-generated.
Wie zu erwarten funktioniert es genau so schlecht, wie all die anderen Detektoren. Selbst meine 100 % per Hand geschriebenen Texte sollen angeblich AI Texte sein, auch auf Englisch…
Jupp, wie bei mir auch. Habe es getestet und ich bin eine KI – kannst dir nicht ausdenken. Das wird für viele nach hinten losgehen.
Als Lehrer würde ich die Hausaufgabe vorher selbst durch die KI jagen und offen ansprechen, dass ich chatGPT auch nutze und die Ergebnisse vergleichen werde. Das fördert zumindest bei den klügeren den Fleiß, KI-generierte Texte so zu überarbeiten, dass der Lehrer die KI nicht merkt. Da lernen die Schüler dann die tägliche Arbeit von Journalisten (Agentur- und Konkurrenten-Texte umschreiben).
Ferner würde ich als Lehrer Aufgaben stellen, die chatGPT zum Inhalt haben und den Schülern, die ja grad mächtig beeindruckt sind, in die Realität zurück holen. Beispiel:
„Formuliert das Rätsel, indem ein Bauer mit Wolf, Ziege und Kohlkopf über einen Fluss übersetzen will und nur zwei im Boot Platz haben und niemand gefressen werden soll, so, dass chatGPT die richtige Lösung finden kann. Dokumentiert Eure Lösungsansätze und Ergebnisse und beschreibt, zu welcher Erkenntnis Ihr dabei gekommen seid.“
Das müssen die Schüler dann tatsächlich selbst machen. Bei der Aufgabe können sie nicht mogeln.
Im Übrigen auch für Erwachsene eine interessante Aufgabe. Ich habe damit locker zwei Stunden zugebracht, weil mich die Herausforderung getriggert hatte.
Die Brunnen (Autoschlüssel, Briefkasten, Schnur, Magnet) Aufgabe kann chatGPT ziemlich gut lösen. Das mit dem Boot hingegen umgeht chatGPT trickreich.
Auch die Aufgabe kann man mit dem richtigen Prompt einfach in ChatGPT kopieren und muss 0 nachdenken 🙂
Viel Spaß mit dem Ergebnis.
Da läuft ja auf Paramount+ die Serie „Die Chemie des Todes“, dachte ich frage mal wieviel Bücher es dazu von Simon Beckett gibt. Ok, die Serie kennt der nicht, ist von 2023, aber die Antwort war selbstbewusst. 5 Bücher, und nennt mir die Titel.
Einzig, es sind 6 Bücher, und die Titel sind in deutsch anders als der angab.
Dann dachte ich an die Serie „Under the Dome“, wer aus der Serie mal einen Film mit George Clooney gemacht hat. Ok, jetzt weiß ich dass George Clooney mal in StarTrek mitgespielt hat (hat er nicht).
Die Antworten sind Müll, da ist Google besser.
„Da lernen die Schüler dann die tägliche Arbeit von Journalisten (Agentur- und Konkurrenten-Texte umschreiben).“ Aus dem Grund sucht man heute ziemlich lange nach echten Journalisten…
Das Tool zum Erkennen sagt aber gar nichts 😀 Habe jetzt mal handgeschriebene Texte vs. händisch abgeänderte KI Texte gestellt. Zu beidem wird gesagt „Likely“ oder „possibly“ KI-Text – also auch zu den handgeschriebenen Texten.
Demnach aktuell wohl eher noch nutzlos das Teil^^
Hausaufgaben eben mit Betreuung in der Schule nachmittags erledigen lassen. Vorteile: Schulkinder arbeiten unter aufsicht und können keine Hilfsmittel nutzen die nicht gewünscht sind. Weiter ist eine Lehrperson anwesend die beraten, ermutigen , weiterbringen kann . Besser als Arbeit im stillen Kämmerlein , mit eltern die überfordert sind, nervenden Geschwisterlein oder mal so hausaufgaben im Bus während der Fahrt morgens vor Schulantritt hinzuschlunzen. Dann noch gute Schulkantine mit Essen für alle – Ganztagsschule heißt das Zauberwort und dann wären auch Bildungschancen nicht mehr so vom Elternhaus abhängig und Bildungsdefizite würden sich vielleicht etwas weniger „vererben“. Dann noch gutes Lernen: Kopfrechnen, mit der Hand schreiben , Förderung der Lesefertigkeit auch aus papiernen Büchern bevor es ans Tablet und Smartphone geht damit grundlegende Kulturtechniken wie schriftliches Rechnen mindestens in den Grundrechenarten , besser bis hin zum Dreisatz, „sitzt“. Hilft ungemein die Bildungsferne vieler heutiger SchulabsolventInnen zu beseitigen.
> Hausaufgaben eben mit Betreuung in der Schule nachmittags erledigen lassen.
Also einfach länger Schule. Bahnbrechender Vorschlag. 😀
Muhaha, „…ist eine Lehrperson anwesend…“ ;-). Und wo soll die herkommen? Es fehlen jetzt schon Lehrer an allen Ecken und Enden, Stellen können nicht nachbesetzt werden. Dafür müsste dieser Beruf erst mal wieder attraktiv gemacht werden, damit genug Leute den ergreifen wollen.
Hallo kOOk, auch wenn das jetzt ein wenig themenfremd wird: hier beißt sich die katz ein wenig in den Schwanz … nicht nur die zeitliche Arbeitsbelastung des Lehrpersonals ist das Problem sondern das respektlose Verhalten vieler Jugendlicher . Da sind aber schon lange vor der Schule die Eltern in der Pflicht: statt kleine Paschas und Prinzessinnen (und die Paschas gibt es auch unter deutschstämmigen Jungens, ist also nicht rassistisch zu sehen ) heranzuzüchten sollten Kinder wieder Achtsamkeit , Rücksichtnahme , Mitgefühl und ja, auch Respekt vor Erwachsenen und Institutionen lernen . Damit meine ich nicht dumpfen Gehorsam , aber junge Menschen sollten wieder Lehrer und Lehrerinnen als Partner beim Heranwachsen begreifen und nicht als Gegner die man aufmischen kann. Wenn ich mir morgens in der Bahn anhöre wie Jugendliche sogar miteinander reden und erst Recht über Andere – dabei sind Begriffe aus der Fäkalsprache oder Gewaltverherrlichung nicht selten – dann möchte ich kein Lehrer sein – so gut kann mich niemand bezahlen und so hoch keine Pension sein daß ich mich diesen Typen aussetzen würde. Die allgemeine Verrohung hat nicht erst mit den Silvesterfeuerwerken in diesem Jahr begonnen, gerade Lehrende können da schon fast seit Jahrzehnten viel erzählen. Und wenn sie dann mit disziplinarischen Maßnahmen durchgreifen wollen, kommen die Eltern der „Wunderkinder“ und zerren die Schulen und Lehrenden vor den Kadi. Ein Patentrezept habe ich leider auch nicht – aber ich wünsche mir wieder mehr Mitgefühl , mehr Rücksicht und weniger Ellebogen als Leitbild in der Gesellschaft. Dann werden vielleicht sogar Schüler und Schülerinnen so ehrlich ihre Arbeiten selbst zu verfassen oder zumindest die quellen ehrlich offenzulegen – um wieder auf das thema AI und Schularbeiten zu kommen .
Was soll ich sagen, ich hatte das „Privileg“, dass meine Eltern sich in den 90er haben scheiden lassen und das Jugendamt meinen Eltern zur Auflage machte, dass ich nach der Schule in eine betreute Kinder Nachmittagsgruppe gehen musste. (Meine Eltern haben beide Vollzeit gearbeitet nach der Scheidung, vorher meine Mutter nur Teilzeit während ich zur Schule war)
Wünsche ich keinem Kind, diese Story, aber ich hab meine Hausaufgaben gemacht und aus mir ist was geworden…
Es muss nicht die Schule sein, die die Hausaufgaben betreut, da reichen Pädagogen und haben vielleicht sogar noch andere positive Effekte!
Ja, weil es dann plötzlich Probleme geben wird, wo es vorher keine gab. Wie soll man dann als Schüler „beweisen“, dass der Text nicht von einer KI geschrieben wurde? Das wird noch lustig werden und sicherlich Gerichte beschäftigen.
Das Problem sind nicht die KI-generierten Texte, sondern ein Schulsystem aus dem letzten Jahrtausend, das auf Hausaufgaben setzt, statt in der Schule die Kinder vernünftig zu unterrichten. Ohne „Hausaufgaben“ gäbe es das Problem mit der AI gar nicht.
Hausaufgaben sind aus didaktischer Sicht aber sinnvoll, damit das Lernen gefestigt wird und die Kinder sich aktiv mit den Inhalten auseinandersetzen. Kommt natürlich darauf an, wie die Hausaufgaben gestaltet sind, aber für das Lernen sind sie durchaus förderlich und wichtig.
Könnte man aber auch in der Schule machen statt zu Hause in der Freizeit. Vorteil: es wäre auch eine Lehrkraft in der Nähe, wenn man Probleme hat weil etwas nicht verstanden wurde. Das sorgt vor allem für Chancengleichheit, weil nicht jedes Kind Akademiker Eltern hat, die helfen können und dazu auch noch die Zeit haben.
Das ist ja schon wider der Absicht: Hausaufgaben sollen ja auch dazu beitragen, dass das Kind eigenverantwortlich etwas bearbeiten kann und das eben außerhalb der Schule in der breiteren Lebenswelt erledigt – und diese vielleicht sogar einbeziehen kann. Wenn immer die Eltern mit ran müssen, dann ist da entweder schon vor der Schule was schief gelaufen, die Elten mischen sich zu sehr ein oder aber die Hausaufgaben sind schlecht von der Lehrkraft gestaltet.
Blöd bei false positive. Dann werden die Knirpse an den Pranger gestellt, die ehrlich waren.
Wie so oft – man erfindet Probleme, … ihr kennt den Rest.
Ich hab grade Texte von mir eingefügt – die also ganz sicher von mir stammen – und die sind auch alle likely generated. Dudumm. Kann man wohl nichts dran ändern. 😀
Das Tool erkennt diesen Blogpost übrigens als „possibly AI-generated“
Cashy-Gate!
Ich verstehe hier viele Kommentare nicht. Getestet habe ich den Bot und der ist für Programmentwicklung super. Chatgpt gibt Anregungen, sieht Fehler ein und kann jeden auf neue Lösungen bringen. Man kann über Lösungen diskutieren und dadurch eigene Programme optimieren. Es ersetzt jeden Lehrer. Wo ist das Problem? Bremerhaven braucht keine Lehrer, die vorhandenen müssen nur umdenken, neue Methoden annehmen, oder selber entwickeln. Ich selber habe mit den Schulen und auch mit der Fachhochschule zu tun. Die Methoden dort sind schon lange nicht mehr zeitgemäß. Chatpgt macht also mit Sicherheit nichts schlechter an der Situation hier. Ob es Verbesserungen gibt liegt am Lehrpersonal und am Fach.