EU-Parlament: Regeln für sichere und transparente KI beschlossen
von caschy | 9 Kommentare
Das Europa-Parlament möchte Regeln für sichere und transparente KI aufstellen. Am Mittwoch verabschiedete das Europäische Parlament seine Verhandlungsposition zum Gesetz über künstliche Intelligenz (KI) mit 499 Ja-Stimmen, 28 Nein-Stimmen und 93 Enthaltungen im Vorfeld der Gespräche mit den EU-Mitgliedstaaten über die endgültige Ausgestaltung des Gesetzes.
Die Regeln würden sicherstellen, dass die in Europa entwickelte und genutzte KI in vollem Einklang mit den Rechten und Werten der EU steht, einschließlich menschlicher Aufsicht, Sicherheit, Privatsphäre, Transparenz, Nichtdiskriminierung sowie sozialem und ökologischem Wohlergehen.
Folgendes soll verboten werden:
- Biometrische Fernidentifizierungssysteme in „Echtzeit“ und „im Nachgang“ in öffentlich zugänglichen Räumen;
- biometrische Kategorisierungssysteme anhand sensibler Merkmale (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsbürgerschaftsstatus, Religion, politische Orientierung);
- prädiktive Polizeisysteme (basierend auf Profilerstellung, Standort oder früherem kriminellen Verhalten);
- Emotionserkennungssysteme in der Strafverfolgung, im Grenzmanagement, am Arbeitsplatz und in Bildungseinrichtungen; Und
- ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre);
Die Abgeordneten stellten sicher, dass die Klassifizierung von Anwendungen mit hohem Risiko nun auch KI-Systeme umfasst, die einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt der Menschen darstellen. Dazu gehören auch KI-Systeme zur Beeinflussung von Wählern und Wahlergebnissen sowie in Empfehlungssystemen.
Auch ChatGPT fällt teilweise unter die neuen Regeln, wenn diese Gesetz werden. Anbieter von Basismodellen – einer neuen und sich schnell entwickelnden Entwicklung im Bereich der KI – müssten mögliche Risiken (für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit) bewerten und abmildern und ihre Modelle in der EU registrieren. Generative KI-Systeme, die auf solchen Modellen basieren, wie ChatGPT, müssten Transparenzanforderungen erfüllen (offenlegen, dass der Inhalt KI-generiert wurde, und dabei helfen, sogenannte Deep-Fake-Bilder von echten zu unterscheiden) und Schutzmaßnahmen gegen die Generierung illegaler Inhalte gewährleisten. Detaillierte Zusammenfassungen der für ihre Ausbildung verwendeten urheberrechtlich geschützten Daten müssten ebenfalls öffentlich zugänglich gemacht werden.
Die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes werden im Laufe des Tages beginnen.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Bin gespannt, welche „Ausnahmen“ von den Verboten es geben wird…
Also wenn es einen Notstand gibt…
Und dann sind da diese Leugner und Verweigerer.
Trittbrettfahrer!
Manch einer würde sagen „Blinddarm der Gesellschaft“.
„Biometrische Fernidentifizierungssysteme in „Echtzeit“ und „im Nachgang“ in öffentlich zugänglichen Räumen;“ Was heißt das konkret? Gesichtserkennung? Hatte gestern die „Envision Glasses“ bei einer Hilfsmittelausstellung für blinde und Sehbehinderte auf der Nase, wie der name sagt eine Brille mit angeflanschter Kamera die z. B. trinierte Gesichter erkennen können soll. Dann könnte ich auf der Straße einen Hinweis erhalten wenn Verwandte oder aber mein Chef mir entgegenkommen oder sie in einem Raum sind den ich betrete. Und jeder sehende Mensch kann einen Promi auf der Straße erkennen, wenn er sein bild vorher in einer Illu oder auf einem Plakat gesehen hat, ganz ohne ihn fragen zu müssen ob er das Bild „lernen“ durfte. Wäre mir das dann beeim Einsatz eines solchen Hilfsmittels auf der Straße oder in öffentlichen räumen untersagt? Wäre das so dann danke EU für die zementierung der Behinderung behinderter Menschen. Gerade für menschen mit Sinneseinschränkungen könnten KI-basierte Assistenzsysteme einen Riesenfortschritt bedeuten.
Das ist das Problem mit solchen „Vorstößen“. Viele Buzzwords um sich gut und stark zu fühlen. Wenig echter Inhalt, keine Differenzierung. Denken ist anstrengend, man mag die symbolische Handlung.
Ich würde sagen, das wäre ein Nahidentifizierungssystem. Unter Fern würde ich jetzt Überwachungskameras verstehen, wo die Daten in der Ferne zusammenlaufen und vor allem von dort genutzt werden können. Assistenzsysteme würden die Infos ja nur lokal durch den Nutzer verwenden.
Hallo Robin, das Gerät kann beides, sowohl „intrn“ ohne netzwerkanbindung wie auch – z. B. für Objekterkennung oder OCR – per mobilem Hotspot z. B. dem Smartphone in der Hosentasche auf externe Server zugreifen. Wie mir der Distributor für DE erklärte , würden dann z. B. höhere Genauigkeiten bei OCr oder objekterkennung erzielt. Ob die Gesichtserkennung auch wahlweise über exteerne Server laufen könnte, habe ich nicht gefragt. Aber z. B. in einer firma wäre dann wieder die „Problematik“ daß Schriftstücke für OCR evtl. das „haus“ verlassen.
Es fehlt an dieser Stelle noch der Hinweis, dass die EVP, zu der auch Abgeordnete der CDU/CSU gehören, in letzter Minute mehr Überwachung durch biometrische Systeme erlauben wollten. Glücklicherweise wurde das nicht durchgebracht, jetzt kommen aber die Verhandlungen im Trilog.
Und? Was war damit konkret gemeint? Überwachung anhand biometrischer Daten gibt es seit Jahrtausenden.
Erwartungsgemäß. Der linksextreme Mob muss ja mit der ganzen härte des Gesetzes bestraft werden können.