Bundesjustizminister: Kennzeichung bei KI-Bildern gefordert
von caschy | 15 Kommentare
KI-Bild oder echt? Natürlich handelt es sich um ein KI-Bild, aber es ist nicht immer so einfach.
Bundesjustizminister Buschmann fordert eine Kennzeichnungspflicht für Bildmaterial. Bildmaterial, das durch künstliche Intelligenz hergestellt wurde, sollte seiner Meinung nach als solches kenntlich gemacht werden müssen. Denn Bilder vermitteln seiner Ansicht nach das Gefühl von Authentizität. Das kann missbraucht werden. Eine Kennzeichnung stehe kreativer Arbeit auch nicht im Weg. So würde es einfacher, zu erkennen, ob es sich bei einem Bild eher um ein Kunstwerk oder um eine Abbildung der Wirklichkeit handelt. Das Ganze ist natürlich ein schwieriges Thema. Wo fängt etwas an, wo hört etwas auf? Ist wirklich nur die KI Schuld? Denn letzten Endes könnte auch pfiffige Bildbearbeiter Hand anlegen, um Echtheit vorzugaukeln.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Voll die Verbotspartei, diese FDP. Außerdem – wo ist denn bei dieser Aussage die sonst so oft geforderte Technologieoffenheit?
Pure Regelungswut die weitere unnötige Bürokratie schafft und am Standort Deutschland Arbeitsplätze gefährdet.
Wer Sarkasmus in diesem Kommentar findet, liegt genau richtig.
So ein voodoo Schmarn.
Wie wäre es denn stattdessen mit ausreichend Medienbildung, damit wir weniger Idioten haben, die sich von einem Bild überzeugen lassen?
Okay, wenn Du aus dem Wort Medienbildung den Teil vor dem b streichst, bin ich zu 100% Deiner Meinung.
Dachte ich mir auch eben. Bildung ist gefragt und die gibt es nicht nebenbei in einem Fach und kann auch nicht mal ebenso von Eltern eingefordert werden. Dazu gehört Arbeit, die der Eltern an sich selbst und bei der Unterstützung der Kinder. Danach, Stichwort lebenslanges Lernen.
Hilfe, die Bürokratie ist im Anmarsch.
Wo grenzt man die KI ein.
Wenn ich also versehentlich ein Foto nicht als KI kennzeichne, wird es als Realität angenommen und andersrum!?
Wie in den letzten Jahren verstärkt wahrnehmen kann, versuchen sämtliche Staaten Propaganda mal mehr mal weniger in die Öffentlichkeit zu bringen.
Auch Deutschland kämpft um Deutungshoheiten, weil es immer um geostrategische Ziele geht.
Verrückte Zeiten sind das.
Caschy spricht hier bereits ein wichtiges Thema an. Massive Manipulation über Photoshop & Co war bisher auch geduldet.
Eine Pflicht zu einer Markierung ist eine typische kurzsichtige Reflexhandlung von deutschen Politikern. Weder ist das Fehlen eines Wasserzeichens ein Beweis für seine Authentizität, noch hält es jemanden davon ab Wasserzeichen zu entfernen oder eigene (lokale) KI-Instanzen zu betreiben, die diese erst gar nicht generieren. Ausländische Anbieter sind meistens erst recht nicht greifbar.
Alles was bleibt ist der übliche politisch verursachte Kollateralschaden für alle, die sich normal verhalten und gar keine bösen Hintergedanken haben, sowie deutsche/europäische Anbieter. Eine Kontrolle ist zudem völlig illusionär und fern jeder Praxis.
Also am Ende wieder nur wirtschaftlicher Schaden und Kriminalisierung von Unschuldigen.
Ist meiner Meinung nach zu kurz gedacht. Was ist mit den Grafikern (wie du das schon sagtest) oder dem Fotograf? Ein RAW-Bild schickst du keinem Kunden. Sondern veränderst einiges und sei es nur die Helligkeit, Bildfehler oder die Objektivenkrümmung (oder wie das heißt). Nur weil es mit Software nun schneller geht, muss man nicht alles markieren. Und was ist wenn es jemand nicht macht? Und für wen gilt das? nur in Deutschland? Dann lass ich das in Indien ändern und bin fein raus?
@Sebastian: ich bin komplett deiner Meinung. Wenn bereits Mobiltelefone künstliche Unschärfe usw. in ein Bild rechnen, die ‚Social-Media-Generation‘ jedes Bild durch Filter ’schön rechnet’… müsste das alles gekennzeichnet werden.
Das hindert aber skrupellose ‚Journalisten‘ auch nicht daran, mal eben Kriegsschauplätze und ~geschehen von einem Ort zum anderen zu verlegen.
Wenn unsere Politiker irgend etwas nicht verstehen, greifen sie gerne zum ‚Verbotshammer‘ … weil der wird’s schon richten.
Das Problem ist dann dass gekennzeichnete Bilder als gefälscht gelten und nicht gekennzeichnete als sicher. Also kann dann jemand mit lokaler KI ein Bild ohne Wasserzeichen generieren und die Masse empfindet das dann als Original weil ja kein „ACHTUNG KI“ Wasserzeichen drauf ist. Sicherer wäre der ganze Weg andersrum wie es jetzt auch schon in Kameras integriert wird. Hier gibt es den C2PA Standard https://c2pa.org/ welcher ein Zertifkat in RAW Dateien einbettet was sicherstellt dass ein Bild nicht manipuliert wurde. Und falls minimale Änderungen wie Helligkeit, Lichter, Schatten usw. gemacht werden dann weren diese im Zertifikat abgebildet. Bis jetzt hat dies Canon und Sony integriert. So kann man sich bei Originalen sicher sein das zu sehen was man sieht und alles andere ist dann erstmal per default „fake“. Sicherheitstechnisch und psychologisch auf jeden Fall der bessere Ansatz.
Exakt, so sollte es sein. Dabei gibt es nicht nur C2PA (Coalition for Content Provenance and Authenticity), sondern auch die CAI (Content Authenticity Initiative). Leica unterstützt das auch, z.B. in der M11-P.
Und dann entwickelt jemand eine KI, die dies Kennzeichnung wieder entfernt. 😀
Was ist dann mit Dingen wie einem „Nachtmodus“? In dem stecken heut ja auch KI-algorithmen.
Sicher wird es bald in Audio-Programmen Filter geben die mit KI noch besser alte Tonaufnahmen restaurieren, z. B. Bandrauschen oder das Schellack-Knistern so rausrechnen und den Frequenzgang auf heutiges Niveau hochrechnen … muß man die dann auch kennzeichnen? Immerhin versuchen sie ja nur den Klang, wie er bei der Originalaufnahme eigentlich vorhanden war zu restaurieren und die Einflüsse durch Alterung und die Begrenzung der historischen Aufnahmetechnik rückgängig zu machen. Gleiches bei historischem Filmmaterial. Kennzeichnungspflichtig? Und das sind ja keine „Fälschungen“ sondern nur Optimierungen vorhandener Aufnahmen.
Wenn das von der FDP oder CxU kommt vermute ich, dass irgendein Schwager ein Unternehmen hat, dass sich auf digitale Signaturen von Mediendaten spezialisieren möchte. Für ein paar Millionen oder wenige Milliarden Zuwendung können die einen tollen Standard erdenken … der dann doch nicht genutzt wird oder 5 Minuten später kompromittiert wird …
Abgesehen davon gibt es mit der CAI bereits einen Ansatz und Leica hat schon eine Kamera die mit ihr aufgenommene Fotos signiert und somit digital bestätigt, dass das Bild mit dieser/einer Kamera fotografiert wurde.
Der Ansatz ist also andersherum: Echte Bilder bestätigen statt die gerechneten zu markieren.
Skeptisch bin ich bei beidem
Wenn es um eine Kennzeichnung von Bildern geht, die durch KI hergestellt wurden, muss man wohl auch fragen, was „hergestellt“ hier bedeutet. Wenn es darum geht, vollständig KI-generierte Bilder zu kennzeichnen, sehe ich da kein Problem. Aber was ist mit Bildern, die lediglich „aufgehübscht“ worden sind? Gelten die dann auch als „hergestellt“ i.d.S.? Schon ein einfacher Filter vermittelt schließlich ein „Gefühl von Authentizität“, was nicht der Realität entspricht. Und das führt dann tatsächlich zur der Frage, wie weit das gehen soll bzw. wo man die Grenze zieht.
Rofl!
Da wünsche ich dem Bundesjustizminister viel Erfolg. Er ist ja so eine internationale Macht.
Wenn er schon dabei ist: Was ist mit Filmen, Stimmen und Texten? Politikerreden werden doch auch oft von Ghostwritern geschrieben. Wie arbeiten die eigentlich?
Mittlerweile sind doch auch schon viele Produktbeschreibungen bei Amazon KI generierte Texte. 50mal das gleiche China-Gadget mit anderem Logo und fantasievoller Beschreibung im Text.
An die Bewertungen mag ich gar nicht denken.