Europol warnt vor Zunahme von KI-generierten Bildern, die Kindesmissbrauch zeigen
von Felix Frank | 34 Kommentare
Die Polizeibehörde der Europäischen Union, Europol, warnt vor einer steigenden Anzahl an Bildern, die sexuellem Kindesmissbrauch darstellen, welche mit künstlicher Intelligenz erstellt wurden und online im Umlauf sind.
Die in Den Haag ansässige Behörde warnt im Rahmen eines 37-seitigen Berichts davor, dass künstliche Intelligenz bzw. Deepfakes es Sexualstraftätern ermöglichen, Material von Kindesmissbrauch zu erstellen oder zu verändern. Dies wird sich in Zukunft wohl noch weiter ausbreiten. Die Zunahme von KI-generierten Bildern erschwert zudem die Identifizierung von Opfern aus dem wirklichen Leben. Auch rein KI-generiertes Material über Kindesmissbrauch trage, so Europol, zur Objektivierung sowie Sexualisierung von Kindern bei.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Vielleicht eine unpopuläre Meinung, aber ich würde solche KOMPLETT VON DER KI-ERSTELTEN Videos fördern. Wenn dadurch weniger Kinder real zu schaden kommen, weil die „Konsumenten“ darauf zurückgreifen, gibt es sicherlich schlimmeres.
Man müsste natürlich vorher untersuchen, ob das eventuell psychologisch zu einer niedrigeren Eintrittshürde oder Verharmllosung für „Konsumenten“ führt. Falls nicht, sollte man, in welcher Form auch immer, drüber nachdenken.
Eine Freundin von mir arbeitet beim Jugendamt und was sie berichtet ist wirklich schlimm.
Den Gedanken hatte ich auch gerade. Man könnte dem etwas positives abgewinnen. Nur die Folgen sind halt unklar.
Müsste man sachlich diskutieren. Ist aber eine Pro/Contra-Frage. Verhindern KI generierte Bilder einen möglichen Übergriff, oder fördern sie diese. Und zum anderen wer kontrolliert was real und was generiert ist.
Tatsächlich war das auch mein erster Gedanke. Ich habe fast 10 Jahre in der Täterarbeit gearbeitet und arbeite jetzt 7 Jahre im Kinder- und Jugendbereich.
Tatsächlich gingen meine ersten Gedanken in die gleiche Richtung – besser KI generiert als dafür echte Kinder missbrauchen…
ohne Zweifel wäre gar nicht natürlich die beste Alternative!
Also quasi als Methadon-Programm für Süchtige?
Soweit ich weiss werden Pädophile geboren wie sie sind, sie müssen ihr ganzes Leben ihre Sexualität permanent unterdrücken wenn sie keinem Kind schaden und sich nicht strafbar machen wollen. Ihr ganzes Leben.
Ich kann mir nicht vorstellen wie schrecklich das ist, niemand kann sich aussuchen solch einen Trieb zu haben. Darum haben die Strafen ja auch keine abschreckende Wirkung. Unser Strafsystem ist hier etwas hilflos.
Prävention könnte mehr Leid verhindern. Und ja vielleicht kann so der Trieb irgendwie abregiert werden, ohne Opfer. Das müssen Fachleute beurteilen.
Ich fände die Diskussion zumindest wert geführt zu werden. Solange Fiktion reine Fiktion bleibt, wo zieht man sonst die Grenze.
„Auch rein KI-generiertes Material über Kindesmissbrauch trage, so Europol, zur Objektivierung sowie Sexualisierung von Kindern bei.“ das überzeugt mich hingegen nicht, niemand muss den Trieb eines Pädophilen wecken. Er ist vorhanden.
Ich schreibe das mal besser in 2 getrennte Kommentare, falls 1 missfällt: 😉
Die „Objektivierung […] von Kindern“ ist sachlich auch völliger Quatsch, das ziemliche Gegenteil dessen, was sie meinen: Sie meinen nicht die objektivere Darstellung/Wahrnehmung, sondern Objektifizierung: Die Degradierung zum Gegenstand, das klassische „Objekt der Begierde“.
…das ist der Zweck jeglicher Pornographie.
Und ein wohlfeiler Auffangtatbestand wenn Juristen nichts mehr einfällt. Bin ja selbst einer. Das wird aber mal herangezogen und mal ignoriert.
Es geht darum, das können am ehesten Psychiater beurteilen, ob opferlose KI Darstellungen 1. dazu führen, dass der angeborene Trieb dauerhaft durch Masturbation opferlos auf einem Mindestmaß abreagiert werden könnte und 2. damit auch die Nachfrage nach realer Kinderpornografie mit realen Opfern sogar abnehmen könnte.
Dies dann nicht einmal zu diskutieren wäre aus meiner Sicht sogar fahrlässige Rechtspolitik. „Weil nicht sein kann was nicht sein darf“ hilft bei menschlichen Trieben nicht, würden Verbote daran etwas ändern würde auch kein Mörder oder Betrüger im Gefängnis sitzen.
das andere ist das es mehr psychologische Anlaufstellen braucht damit diese Leute sich behandeln lassen können.
Wohin die Reise bei KI gehen könnte , gerade was diesen Bereich des Kindesmissbrauch angeht , sieht man im Ansatz in den Film „The Artifice Girl“ https://de.wikipedia.org/wiki/The_Artifice_Girl_%E2%80%93_Sie_ist_nicht_real
Ob man solche Methoden gutfindet muss jeder für sich selbst entscheiden
Ich denke, dass das Problem bei dieser Annahme beginnt: „Wenn dadurch weniger Kinder real zu schaden kommen […]“. Denn diese KI-generierten Inhalte tragen sicherlich zur Objektivierung bei. Es liegt nahe, dass ein potentieller Täter durch den Konsum solcher Inhalte Hunger auf mehr bekommt und irgendwann zur Tat schreiten möchte. Ein altbekannter Mechanismus: „Wenn die Lust auf diese Weise schwanger geworden ist, bringt sie Sünde zur Welt, und die Sünde, wenn sie voll ausgewachsen ist, den Tod.“ (Bibel, Jakobusbrief)
> Hunger auf mehr bekommt und irgendwann zur Tat schreiten möchte
Das Happy End wäre, wenn sie dann zu KI-Experten werden…
Das Problem beginnt bei der Annahme der Unterstellung das Handlung x ja immer dazu führt das Handlung y zwangsläufig ausgeführt wird.
– wer Shooter spielt wird später echte Menschen töten
– wer dampft wird später zur Zigarette greifen
– wer kifft wird später an der Nadel hängen
– usw.
Studien und langjährige Untersuchungen zeigen in der Regel das diese Annahmen in der Regel unsinnig sind.
Denn wenn wir diesem Muster folgen würden, würde ich Europol Interessenskonflikte unterstellen.
Der Wechsel zu AI generierten Inhalten führt dazu das ein Kernargument zur anlasslosen Massenüberwachung der Bürger wertlos wird.
Wie soll Europol ihre Chatkontrolle bekommen wenn es nicht um Inhalte mit echten Menschen geht?
Denn Gerichte unterscheiden deutlich zwischen realer Straftat und moralisch fragwürdig.
Die Überschrift könnte auch lauten: Europol warnt vor Verlust von Totschlagargument der Massenüberwachung
– denkt doch an die Arbeitsplätze!
„Das Problem beginnt bei der Annahme der Unterstellung das Handlung x ja immer dazu führt das Handlung y zwangsläufig ausgeführt wird.“
Diese Unterstellung kommt jetzt aber von Dir.
Und: nicht zwangsläufig, aber wahrscheinlicher. Es gibt nicht nur entweder/oder.
„Studien und langjährige Untersuchungen zeigen in der Regel das diese Annahmen in der Regel unsinnig sind.“
Es gibt Studien zu allem und mit allen gewünschten Ergebnissen.
Im wirklichen Leben kenne und kannte ich aber genug Leute, bei denen z. B. die Suchtkarriere so verlief, während andere bei allem clean bleiben.
Es gibt immer eine Ausnahme von der Regel.
Nur sind die Ausnahmen im Vergleich zur Mehrheit meist verschwindend gering.
Natürlich muss man bei Studien genau hinschauen ob wissenschaftlich korrekt gearbeitet wurde. Das ist Standard.
Nehmen wir nur das Thema Alkohol. Leicht zu beschaffen und das legal.
Dennoch haben wir keine Epidemie an Alkoholikern. Sonst wäre Alkohol ja verboten.
Aber bei Porn soll jetzt davon ausgegangen werden das Menschen nach Betrachtung anfangen wie wild andere zu missbrauchen?
Diese Diskussion ist uralt und hat noch nie näherer Betrachtung standgehalten.
Der Mensch kann in der Regel zwischen der Fiktion und realen Handlungen unterscheiden.
Natürlich gibt es immer Ausnahmen, nur stehen sie nicht für die Mehrheit.
Bei dem Thema der Forderung von Europol stellt sich aus langen Jahren der Erfahrung für mich keine Frage nach den Beweggründen.
Die wollen keinen vor moralisch fragwürdigen künstlichen Bildern schützen.
Deren Interesse ist die Ausdehnung ihrer Befugnisse und damit auch einhergehend Gelder und Arbeitsplätze.
Denkt doch an die Kinder ist schon ewig deren Slogan um mehr Überwachung zu fordern.
Durch die AI sehen die ihre Felle davonschwimmen.
Also versucht man wieder ein Szenario zu konstruieren um dem Einhalt zu gebieten.
Um den Schutz echter Kinder geht es am Ende nie.
Du schreibst von „langen Jahren der Erfahrung“. Könntest Du das bitte erläutern und ggf. belegen mit Links usw.? Sonst ist das eine nichts sagende Floskel, die wahrscheinlich noch nicht einmal stimmt.
Knapp 15% aller Erwachsenen haben einen gesundheitlich riskanten Alkoholkonsum. Das IST eine Epidemie. Aber Alkohol ist unangreifbar in D.
Stimmt, deswegen ist Methadon natürlich auch total schlecht, oder?
Worüber reden wir hier? Es gibt einen gewissen Prozentsatz Menschen die eine pädophile Störung haben. Jetzt ist die Frage, wie geht man damit, abseits einer Therapie um.
Bei Übergriffen sind sich wohl nahezu alle einig, dass es absolut verwerflich ist und mit hohen Strafen sanktioniert werden sollte. Aber selbst bei realen Bildern bröckelt das. Denn entgegen deiner Behauptung, es gäbe zu allem möglichen Studien mit allen gewünschten Ergebnissen, gibt es doch häufig eine klare Tendenz die sich abzeichnet. Und die ist in dem Fall von Bildern eben klar:
Weder entwickelt ein Mensch ohne Störung durch ansehen solcher Bilder eine Störung, noch führt es zu mehr Übergriffen, im Gegenteil senkt es sogar die Chance dass solche Menschen zu Sexualstraftätern werden.
Bei realen Bildern ist dabei aber das größte ethische Problem, dass dort reale Schicksale hinterstehen und man natürlich damit Opfer weiter quälen und demütigen kann/wird. Bei KI-Bildern, so denn sie nicht auf realen Menschen/Taten basieren könnte das anders sein.
Am Ende ist das was man braucht aber eine Entstigmatisierung der Betroffenen der Störung, die Möglichkeit zur Therapie und, natürlich ebenso, weiterhin die harte Verfolgung von Sexualstraftaten.
Der Vergleich mit der Angst davor, dass „Killerspieler“ öfter zu Amokläufern werden kam mir auch in den Sinn. Soweit mir bekannt ist das ja nicht der Fall. Aber ob man dazu einfach Parallelen zu artifizieller Kinderpornographie ziehen kann, kann ich nicht bewerten. Dazu will ich Aussagen von Wissenschaftlern hören, nicht von Europol.
Die Annahme, dass fiktive Inhalte zwangsläufig zu realen Taten führen, vereinfacht komplexe menschliche Verhaltensweisen. „Richtet nicht, damit ihr nicht gerichtet werdet.“ (Matthäus 7,1-2)
Mit dem Gucken von Pornos bekommt man Lust auf echten Sex und pubertierende Kinder sind da ein viel leichteres Opfer, als Erwachsene. Deshalb sehe ich das leider genauso.
Da gibt es aber überwiegend eine andere Meinung, die besagt das der Konsum von Pornos überwiegend die Lust auf reale Zweisamkeit reduziert, da diese typischerweise nicht an die gespielte Darstellung heranreicht. Dies ist ein oftmals verwendetes Argument für das Verbot / der Einschränkung der Verfügbarkeit von Pornos.
„Mit dem Gucken von Pornos bekommt man Lust auf echten Sex“
Das ist jetzt auch „einfach mal so“ unterstellt. Was ist denn die Quelle dafür?
Deshalb halte ich auch dagegen: Ich gucke gelegentlich Pornos, WEIL ich Lust auf Sex habe, aber meine Partnerin nicht verfügbar ist oder ich schon weiß, das sie nicht möchte.
Effektiv sorgen Pornos also tendenziell dafür, das ich weniger echten Sex habe. Nicht mehr.
„Die Gedanken sind frei…“
Meiner Meinung nach muss es um die Frage gehen, ob auch strafbar sein kann, was nicht offensichtlich Dritten schadet. Das müsste zumindest ziemlich eindeutig nachgewiesen werden. Andernfalls wären ja auch Literatur oder Gemälde, die strafbare Handlungen (!) zum Thema haben, strafbar. Ich neige eher gegen eine so weitreichende Befugnis öffentlicher Gewalt.
Unabhängig davon, was man von der Idee hält, beweist das Ganze schon jetzt, dass sämtliche Beteuerungen der Anbieter, dass man alles tun wird, dass KI nur Gutes für den Menschen tut, in die Tonne kloppen kann. Was natürlich auch immer schon klar war. So wie mit allem anderen auch, wird der Mensch auch KI für jede irgendwie denkbare Abartigkeit nutzen. So wie wir es bisher auch schon mit allem gemacht haben, was so erfunden wurde. Der Unterschied ist, dass Meier/Müller/Lehmann nicht mal eben eine Atombombe in der Küche zusammenbasteln können, aber mit KI kann sich jeder Horst und jede Hörstin nach Belieben austoben.
Mal sehen, wann die ersten Google/Apple Warnungen and die Behörden gehen, mit vermeintlichen Treffern bei den Kunden.
Dann greifen die Behörden zu und finden echte Fotos.
Win-win.
Sehe da mehr ein anderes Problem, als von KI generierte Fantasiekörper. Nämlich das Herstellen von real existierenden Menschen anhand von Fotos die online sind oder heimlich übern Zaun gemacht werden. Dazu noch VR-Brille und mir wird übel.
Reale Umsetzung in „Nachricht von Ella“ ｜ „Without Consent“
Telekom-Spot über die Missbrauchsmöglichkeit von Daten.
Englisch: https://invidious.poast.org/watch?v=F4WZ_k0vUDM
Deutsch: https://invidious.poast.org/watch?v=bu-fR8nrwjs
Schwierig ist dabei auch die rechtliche Dimension. Ab wann ist von einer KI verändertes Material von Volljährigen als jugendpornografisch einzustufen? Da kommt eine Mammutaufgabe auf die Gerichte zu.
Die Volljährigkeit der Beteiligten ist schon ohne KI oft nicht zweifelsfrei feststellbar.
Die fordern für sich das Recht ein, sich sexuell an Kindern auszuleben. Das muss man sich hier mal klar machen. Das ist nicht nur krank, sondern kann man schon als eine Art Mafia bezeichnen.
Europol sollte den Leuten doch mal klar Macken, was das bedeutet und welches Ziel gefolgt wird. Denn das Thema beschränkt sich nicht nur auf „sexualisierte Gewalt“ an Kindern. Diese perfide Art wird überall gestreut, auch beim Thema „Meine Frau ist lesbisch geworden“ und viele andere Storys, die sich da seitens der Sexindustrie ausgedacht wird um eine Akzeptanz, Toleranz, Abstumpfung zu erzielen. Wer die Storys mit den Lesben nicht versteht: Lesbenpornos sind ein Milliardengeschäft und jede hetero Frau wurde 1x in ihrem Leben von einem Mann (oder einer anderen Frau) damit konfrontiert Sxx mit einer Frau zu haben. Man versucht hier auf ganz perfide Weise in einer Art Storytelling auch immer häufiger Ziele zu erreichen. Ist gar nicht mehr von echten Erfahrungen zu unterscheiden.
Kleiner Nachtrag:
Mittelwelle sollte auch der Fokus daraus geleg werden:
1. Sind diese Menschen unter uns begehen Straftaten im Verborgenen und es förderlich eine Linie zu fahren, die einerseits einfacher macht das anzuzeigen und somit dass Dunkelfeld immer weiter aufgehellt wird (was ja an sich gut ist. Aber…)
2. Geht man da nicht auch die Gefahr ein, dass es auch immer mehr „neue“ Täter werden
3. Circa die Hälfte der Straftaten werden von Tätern begangen die nicht pädophil sind. Wie entwickelt sich das, wenn immer mehr Fetische sich breit machen. Mit No Kink und No Fetisch Shaming haben wir eine neue Fetisch Schwemme mit Leuten die definitiv im Jahr 2024 eher bereit sind (absurde) Fantasien auszuleben als noch vor 10-15 Jahren
4. Ob die Gesellschaft sich nicht immer weiter in Richtung Abstumpfung bewegt und so manche Fantasie sogar darin bestätigt sieht auszuleben, weil hier überall Kampagnen laufen, es sei ok
Sex ist ein Abgrund oder kann ein Abgrund sein und wie tief dieser Abgrund sein kann, übersteigt ganz sicher die Vorstellung einiger Leute. Meiner Meinung werden viele Leute erst so richtig verkorkst wenn sie den Abgrund besteigen. Wir schlimmer als im Mittelalter