Künstliche Intelligenz bewähre sich laut Microsoft im Einsatz gegen Kinderpornografie

Ich hatte schon 2019 darüber berichtet, dass Microsoft automatische Bilderkennung gegen Kinderpornografie einspannen wollte. Man kooperierte da im Rahmen eines Forschungsprojekts mit dem Land NRW bzw. der Zentral- und Ansprechstelle Cybercrime NRW. Das Projekt ist nun abgeschlossen und die Ergebnisse liegen vor. Offenbar ist man zufrieden, denn die künstliche Intelligenz soll in den produktiven Betrieb bei der ZAC NRW überführt werden.

Dabei sei es ein zunehmendes Problem, dass Missbrauchsdarstellungen von Kindern und Jugendlichen im Internet immer größere Verbreitung fänden. Allein 2020 sei die Zahl der Verdachtsfälle in Deutschland um mehr als 50 Prozent angestiegen. Die Aufklärung sei aufwändig, da in kurzer Zeit viele Beweismaterialien auszuwerten seien. Zumal damit die Psyche der Beamten belastet werde. Genau deswegen ist KI hier eine enorme Hilfe.

Entwickelt wurde eine rechtssichere und hybride Cloud-Lösung zur automatisierten Erkennung und Kategorisierung von Kinder- und Jugendpornografie, die sich in der bisherigen Testphase bei der Beweissicherung bewährt habe. In 92 Prozent aller Fälle konnte sie laut Microsoft Bilder korrekt kategorisieren. Nach Abschluss der Praxistests stehe dem regulären Betrieb nun technisch nichts entgegen. Dank ihrer offenen Architektur könne die Cloud-basierte Lösung von nationalen wie internationalen Behörden genutzt werden.

Künstliche Intelligenz könne dabei laut dem Minister der Justiz des Landes NRW, Peter Biesenbach, die menschlichen Ermittler zwar nicht ersetzen, sie aber entlasten und ihre Arbeit beschleunigen. Microsoft bewirbt seine Lösung als flexibel denn die KI-basierte Analyse des Verdachtsmaterials könne sowohl lokal in den Rechenzentren der Behörden (On-Premises) als auch in den deutschen Rechenzentren von Microsoft erfolgen. Dadurch lasse sich die Leistung bei sehr großen Datenmengen auch kurzfristig erweitern.

Für die Einhaltung der Rechtsvorschriften sorge ein Abstraktionsalgorithmus, der die Bilddateien vollständig und irreversibel abstrahiere und anonymisiere (dekonstruiere). Für das menschliche Auge sind nach dieser Dekonstruktion keine Bildinhalte mehr erkennbar. Dieser Prozess erfolgt ausschließlich in den Rechenzentren der Strafverfolgungsbehörden. Der KI-Algorithmus sortiere die dekonstruierten Bilddateien vor und klassifiziere sie nach vier Kategorien: ob die Bilder strafbare Darstellungen des Missbrauchs von Kindern oder von Jugendlichen zeigen, ob es sich um erlaubte Erwachsenenpornografie handelt oder um sonstige Bilder.

Falsche Ergebnisse lassen sich dann nachträglich durch die Ermittler korrigieren. Ein Vorteil der zentralisierten KI-Lösung sei, dass die KI ständig weiter trainiert werde und durch die manuellen Korrekturen dazu lerne. Das solle die Qualität auf Dauer steigern. Zusätzlich zu der Klassifizierung können per optischer Zeichenerkennung (OCR) auch gedruckte oder handschriftliche Texte direkt auf den Bildern erkannt und automatisch mit vordefinierten Schlagwortlisten abgeglichen werden. Dadurch lassen sich etwa Wasserzeichen erkennen, die manche Täter verwenden. Dies kann aber auch bei der Auswertung von Täter-Kommunikationen helfen.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.