CriticGPT: OpenAI stellt ML-Modell zum Prüfen von ChatGPT-Antworten vor

Machine Learning prüft und kritisiert Machine-Learning-Ergebnisse, um Machine Learning nutzenden Menschen zukünftig bessere Machine-Learning-Ergebnisse anbieten zu können. Oder anders: OpenAI, die Schöpfer von ChatGPT, haben ein neues Modell namens CriticGPT entwickelt, das auf GPT-4 basiert und darauf trainiert wurde, Fehler im Code-Ausgaben von ChatGPT aufzuspüren. Angeblich seien Nutzer mit der Unterstützung von CriticGPT 60 % effektiver bei der Fehlererkennung als ohne, so zumindest die Pressemeldung. GPT-4, die treibende Kraft hinter ChatGPT, ist durch RLHF darauf ausgerichtet, hilfreich und interaktiv zu sein. Was RHLF bedeutet? Reinforcement-Learning from Human Feedback (RLHF) – menschliches Feedback nutzen, um KI-Modelle so zu optimieren, dass sie effizienter selbst lernen.

CriticGPT wurde entwickelt, um durch seine Kritiken Ungenauigkeiten in ChatGPT-Antworten hervorzuheben. Die Vorschläge von CriticGPT sind allerdings ebenfalls nicht immer korrekt, so OpenAI weiter. Hilfreich sei das Konzept dennoch. Warum das System noch lange nicht perfekt ist, erklärt das Unternehmen auch:  CriticGPT ist auf recht kurze ChatGPT-Antworten trainiert worden, zukünftige Modelle müssen vermutlich längere und komplexere Aufgaben verstehen. Fehler, die über viele Teile einer Antwort verteilt sind, können aktuell noch nicht adressiert werden, zudem hat CriticGPT aktuell noch seine Probleme, wenn eine Aufgabe oder Antwort extrem komplex ist.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.