Magic Editor: Google verwendet digitales Wasserzeichen für KI-manipulierte Fotos
Ab dieser Woche setzt Google Fotos auf SynthID. Hierbei handelt es sich um ein digitales, unsichtbares Wasserzeichen für KI-generierte Inhalte. Das Wasserzeichen ist somit nicht wahrnehmbar und wird aber direkt in KI-generierte Bilder, Audio, Texte oder Videos eingebettet.
Im Falle von Google werden damit Bilder markiert, die unter Verwendung von Reimagine im Magic Editor bearbeitet wurden. SynthID wird auch bei einigen Anbietern genutzt, um vollständig generierte Inhalte zu markieren – beispielsweise bei Googles Text-zu-Bild-Modell Imagen ist das der Fall.
KI-generierte Inhalte sollen sich so schnell und einfach identifiziert werden. Google räumt jedoch ein, dass es möglich ist, dass kleinere Änderungen, die mit Reimagine vorgenommen wurden, möglicherweise nicht von SynthID erkannt werden. Als Beispiel nennt man etwa die Farbe einer kleinen Blume im Hintergrund eines Bildes.
Drückt man auf „Über dieses Bild“ in Google Fotos, dann wird neben den Meta-Daten zudem angezeigt, ob ein SynthID-Wasserzeichen vorhanden ist. Man erwägt deshalb weitere Lösungen, um KI-Inhalte sowie KI-modifizierte Inhalte zu entlarven.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Bildbearbeitungsprogramme sollten im Sinne der Nutzer arbeiten, nicht gegen den Nutzer. Insofern ist diese Veränderung, wenn man sie nicht abschalten kann, einfach eine starke Verschlechterung.
Da braucht mir auch niemand kommen mit „oh, aber KI ist ja so gefährlich“. Nein, ist es nicht. Das ist wokes Gerede. 😀