Europol strebt nach KI und Datenflut – mit wenig Kontrolle
von André Westphal | 4 Kommentare
Es ist kein Geheimnis, dass auch Strafverfolgungsbehörden in ganz Europa gerne mehr Daten zusammenraffen wollen – und dafür auch unterschiedliche KI-Tools verwenden bzw. in Erwägung ziehen. Auch Europol hat da eine enorme Gier entwickelt. Doch der Sehnsucht auf immer mehr Daten von EU-Bürgern und der Auswertung per KI stehen kaum Kontrollmöglichkeiten gegenüber, was Missbrauch ermöglichen könnte.
Bei Europol läuft die Initiative intern als „Strategisches Ziel Nr. 1“, Kritiker verstehen darunter aber ein Programm zur Datenbeschaffung und Überwachung. In der Vergangenheit hat Europol öffentlich auch immer wieder zugegeben, so viele Daten von Bürgern wie möglich sammeln und auswerten zu wollen. Man wollte da auch schon aus Ermittlungen gewonnene, massive Datensätze für maschinelles Lernen nutzen, wurde aber mangels Kontrollmechanismen für die Prozesse in seine Schranken gewiesen.
Das geschah wohl auch mit gutem Grund, denn Europol hatte bereits Datenschutzvorkehrungen missachtet. So wollte man zunächst eigene KI-Modelle entwickeln und trainieren, dokumentierte das Ganze aber so gut wie gar nicht. Das hätte Verzerrungen und Fehlern Tür und Tor geöffnet, die sich kaum hätten zurückverfolgen lassen. Es wäre dadurch möglich gewesen, dass die KI-Modelle Personen fälschlicherweise in den Fokus strafrechtlicher Ermittlungen rücken.
Pikante Beziehungen zwischen Europol und Thorn
Offenbar hat Europol seit 2022 auch enge Beziehungen zu Thorn gepflegt. Das ist eine nordamerikanische Non-Profit-Organisation, die ein KI-System zur Erkennung von Darstellungen von Kindesmissbrauch entwickelt. Thorn ist auch ein Akteur, der für Massenüberwachung, wie etwa durch die Chatkontrolle, lobbyiert. Europol verhandelte länger mit Thorn, um dessen Tools testen zu können. Dabei gewährte man der NGO tiefe Einblicke in die Strafverfolgung. Das Ausmaß ist dabei gar nicht so klar, da Europol viele Dokumente, die inzwischen ans Licht gekommen sind, schwärzen ließ.
Auch sonst zeigt sich Europol eher schmallippig und versucht Transparenz laut Netzpolitik eher aus dem Weg zu gehen. Es fehlt dabei auch an einer echten, internen Kontrollinstanz. Zwar gibt es einen Grundrechtsbeauftragten, doch der hat keine echten Befugnisse oder Durchsetzungsmöglichkeiten und erfüllt somit eher eine symbolische Funktion. Und auch eine externe Kontrolle ist derzeit kaum möglich bzw. vorgesehen.
Auch im Bereich Gesichtserkennung hat Europol dabei immer wieder große Pläne und berücksichtigt die Risiken offenbar teilweise nicht ausreichend. Zumal die Behörde diese Risiken kaum offen diskutieren mag und kaum konkret über die internen KI-Systeme sprechen will. Das ist am Ende pikant, da sie enorme Auswirkungen auf die Strafverfolgung haben können.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Bei Europol ist Transparenz genauso beliebt wie in der gesamten EU – siehe Von der Leyen!
In der aktuellen Zeit ist ein Artikel zum Missbrauch von Kindern, der zeigt, wie wenig es bringt, Nur Daten zu sammeln. Die Behörden und Gerichte sind von den massenhaften Verfahren total überlastet, und in den Gefängnissen ist auch kein Platz. Für anderen Seite gibt es keine Therapieplätze für die Männer. Also, was haben wir dann? Überwachung für alle und Bewährungsstrafe ohne Besserung für die Täter. Die Opfer haben Pech gehabt.
Seit Jahrzehnten die gleichen Argumente, seit Jahrzehnten immer wird mehr „Sicherheit“, mehr Kontrollen, mehr Überwachung von den Behörden organisiert. Seltsam nur, das nichts besser geworden ist.
Die schlimmste Bedrohung für eine freiheitliche Demokratie (und die besten Brandstifter und Nährbodenbereiter für ihre Feinde) sind für mich inzwischen jene „Demokraten“, die vorgeben für Sicherheit und den Erhalt einer freiheitlichen Demokratie eben jene zu beseitigen zu müssen.
Das hat noch nie funktioniert, im Gegenteil.
Kaum ist der letzte Versuch zur weiteren Ausweitung eines Kontroll- und Überwachungsstaat gescheitert, betreibt die EU-Kommission neue, noch weitergehende Initiativen zur anlasslosen Kontrolle ihrer Bürger.
Da schließe ich mich doch lieber Martin Sonneborn von Die Partei im Europaparlament an:
„Freiheit, Grundrechte & Privatkommunikation für die Bürger, Chatkontrolle für Frau vonderLeyen!“
Dass Thorn eine Non-Profit-Organisation sein soll, ist so eine Sache. Die Gehälter und der Aufbau gleichen wohl eher einem IT-Startup. Und Ashton Kutcher öffnete für Thron unter anderem bei der EU viele Türen mit seinem Hollywood-Charme. Alle wollten sich mit ihm fotografieren lassen. Ihm und für die gute Sache, Kinder zu schützen. Und plötzlich kamen Entwürfe für die rechtliche und technische Umsetzung quasi aus dem Nichts. Wäre das so umgesetzt worden, hätte Thorn für seine Dienstleistung/Software einen Multi-Milliarden-Dollar-Markt generiert – auf Dauer. Zum Glück ist Kutcher dann über die Sache mit Danny Masterson gestolpert. Denn man überwacht nicht 450 Millionen EU-Bürger, weil man Ashton Kutcher knuffig findet. Nennt mich ruhig kleinlich, aber das reicht mir so nicht.