Google Fotos: KI-Bearbeitungen künftig deutlich gekennzeichnet
von Benjamin Mamerow | 7 Kommentare
Google Fotos nutzt zunehmend künstliche Intelligenz, um die Bearbeitung von Bildern zu vereinfachen. Funktionen wie der Magische Editor und der Magische Radierer ermöglichen es, Bilder zuzuschneiden, Objekte zu entfernen oder die Beleuchtung anzupassen – Aufgaben, die früher viel Zeit und Mühe erforderten. Um mehr Transparenz zu schaffen, wird Google Fotos ab nächster Woche deutlich kennzeichnen, wenn ein Bild mit KI-Funktionen bearbeitet wurde, so Google. Diese Information wird direkt in der App neben anderen Bilddetails wie Dateiname, Speicherort und Backup-Status angezeigt.
Bereits jetzt werden Fotos, die mit Tools wie dem Magischen Editor oder dem Magischen Radierer bearbeitet wurden, mit Metadaten versehen, die auf technischen Standards des International Press Telecommunications Council (IPTC) basieren. Diese Metadaten zeigen an, dass das Bild mithilfe von generativer KI bearbeitet wurde. Google geht jetzt aber eben einen Schritt weiter und macht diese Information für Nutzer sichtbar.
Neben der Kennzeichnung von Bildern, die mit generativer KI bearbeitet wurden, werden IPTC-Metadaten auch verwendet, um Bilder zu kennzeichnen, die aus Elementen verschiedener Fotos zusammengesetzt wurden. Dies betrifft beispielsweise die Funktionen „Beste Aufnahme“ auf Pixel 8 und Pixel 9 sowie „Mich hinzufügen“ auf Pixel 9, die Bilder verwenden, die zeitnah aufgenommen wurden, um ein kombiniertes Bild zu erstellen.
- Erhalte ein kostenloses "Redmi Pad Pro [6+128GB]", welches nach dem Kauf über die Aktionswebseite unter...
- Erhalte ein kostenloses "Redmi Pad Pro [6+128GB]", welches nach dem Kauf über die Aktionswebseite unter...
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Klassischer decel move von Google.
Wenn so etwas über die Meta Daten transparent gemacht wird, dann sollte das Nutzerseitig auf jeden Fall auch abgeschaltet werden können.
Warum denn?
Außerdem kann man nach wie vor einen Screenshot des Bildes machen oder die Metadaten entfernen.
Glaube das sieht der EU AI Act nicht vor. Warum auch, dann kann man sich die Kennzeichnung auch gleich sparen. Soweit ich gelesen habe, beteiligt sich Google auch an C2PA.
Sachlich: Ich glaube, niemand fällt darauf herein, dass solche Lösungen irgendeine Form von im Alltag nützlicher Sicherheit bieten.
Die Kennzeichnung kann nicht garantieren, dass ein Bild nicht bearbeitet wurde, weil man als Nutzer die Metadaten ohnehin nach Belieben verändern kann. … genau wie das Bild. Selbst wenn man Hoffnung in Technologien setzt, die sich bemühen, die Integrität der Bilddaten zu gewährleisten (Adobes CAI oder so): Der Rummel lässt sich nach der Bearbeitung einfach neu signieren.
Regulatorisch: Insofern geht es hier nur um Compliance mit dem KI Act. Also das ist diese Idee einer hinreichend verlässlichen, interoperablen, wirksamen und belastbaren technischen Lösung zur maschinenlesbaren Rückverfolgbarkeit des Einsatzes von KI.
Das ist bewusst so schwammig gehalten, weil es einfach Quatsch ist. Wenn Google das erfüllen wollte, müsste man zum Beispiel auch den Export/Download von Bildern abschalten. Insofern kann man sich dieser Frage der Compliance gar nicht unter dem Gesichtspunkt nähern, was dem Geist des KI Act entspricht. Sondern es geht um eine gesichtswahrende Compliance, die der EU das Gefühl gibt, dass sie das Unternehmen nicht mobben braucht.
Insofern hätte ich das an Googles Stelle optionalisiert. Nachschärfen kann man immer. 😀
„Beste Aufnahme“ meint die Einstellung „Top Photo“? Dann macht das keinen Sinn. Das ist eine globale Einstellung, und somit sind dann alle Fotos markiert. Oder verstehe ich das falsch?
das ist die Funktion, wo du aus mehreren Gruppenfotos die Gesichter der einzelnen Personen kombinieren kannst. Wenn z.B. jemand blöd guckt, kannst du sein Gesicht aus einem anderen Foto nehmen.
Ja, das war aber nicht die Frage.
Das ist ja eine globale Einstellung in den Settings, die man nicht mal eben an- und ausschaltet. Solange das angeschaltet ist, sind dann alle Bilder als „KI manipuliert“ markiert?