EU-Parlament: Regeln für sichere und transparente KI beschlossen

Das Europa-Parlament möchte Regeln für sichere und transparente KI aufstellen. Am Mittwoch verabschiedete das Europäische Parlament seine Verhandlungsposition zum Gesetz über künstliche Intelligenz (KI) mit 499 Ja-Stimmen, 28 Nein-Stimmen und 93 Enthaltungen im Vorfeld der Gespräche mit den EU-Mitgliedstaaten über die endgültige Ausgestaltung des Gesetzes.

Die Regeln würden sicherstellen, dass die in Europa entwickelte und genutzte KI in vollem Einklang mit den Rechten und Werten der EU steht, einschließlich menschlicher Aufsicht, Sicherheit, Privatsphäre, Transparenz, Nichtdiskriminierung sowie sozialem und ökologischem Wohlergehen.

Folgendes soll verboten werden:

• Biometrische Fernidentifizierungssysteme in „Echtzeit“ und „im Nachgang“ in öffentlich zugänglichen Räumen;
• biometrische Kategorisierungssysteme anhand sensibler Merkmale (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsbürgerschaftsstatus, Religion, politische Orientierung);
• prädiktive Polizeisysteme (basierend auf Profilerstellung, Standort oder früherem kriminellen Verhalten);
• Emotionserkennungssysteme in der Strafverfolgung, im Grenzmanagement, am Arbeitsplatz und in Bildungseinrichtungen; Und
• ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre);

Die Abgeordneten stellten sicher, dass die Klassifizierung von Anwendungen mit hohem Risiko nun auch KI-Systeme umfasst, die einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt der Menschen darstellen. Dazu gehören auch KI-Systeme zur Beeinflussung von Wählern und Wahlergebnissen sowie in Empfehlungssystemen.

Auch ChatGPT fällt teilweise unter die neuen Regeln, wenn diese Gesetz werden. Anbieter von Basismodellen – einer neuen und sich schnell entwickelnden Entwicklung im Bereich der KI – müssten mögliche Risiken (für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit) bewerten und abmildern und ihre Modelle in der EU registrieren. Generative KI-Systeme, die auf solchen Modellen basieren, wie ChatGPT, müssten Transparenzanforderungen erfüllen (offenlegen, dass der Inhalt KI-generiert wurde, und dabei helfen, sogenannte Deep-Fake-Bilder von echten zu unterscheiden) und Schutzmaßnahmen gegen die Generierung illegaler Inhalte gewährleisten. Detaillierte Zusammenfassungen der für ihre Ausbildung verwendeten urheberrechtlich geschützten Daten müssten ebenfalls öffentlich zugänglich gemacht werden.

Die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes werden im Laufe des Tages beginnen.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.