OpenAI arbeitet an neuen Tools zu Erkennung von KI-Bildern

Tools, die die großen KI-Sprachmodelle nutzen, haben es mittlerweile sehr weit gebracht. Es lassen sich unter anderem Bilder erstellen, die kaum noch von der Realität zu unterscheiden sind – zumindest nicht, wenn man nicht genau hinsieht.

OpenAI arbeitet daran, Werkzeuge bereitzustellen, die Bilder erkennen sollen, die mit DALL-E erstellt wurden. Dazu gehört unter anderem ein neue Klassifizierer, der mithilfe von KI feststellt, ob ein Bild durch KI erstellt wurde. Dieser gibt eine Wahrscheinlichkeit dafür an. Das soll auch funktionieren, wenn das Bild zugeschnitten und komprimiert worden ist. Kommt das Bild nicht von DALL-E, sondern von Midjourney ist die Leistung aber noch nicht so gut.

Weiterhin führt man ein manipulationssicheres Wasserzeichen ein, das Inhalte wie Audio mit unsichtbaren Signalen versehen kann.

Beide Mittel zur Erkennung befinden sich gerade in der Testphase. OpenAI selbst sagt, dass man Feedback sammeln muss, um die Tools zu verbessern.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.