EU: Regeln für künstliche Intelligenz sollen im Gesetz verankert werden

Die EU arbeitet an den weltweit ersten Vorschriften für künstliche Intelligenz. Der Ausschuss für Binnenmarkt und Verbraucherschutz und der Ausschuss für bürgerliche Freiheiten haben den Entwurf eines Verhandlungsmandats für erste Regeln für künstliche Intelligenz angenommen. In ihren Änderungsanträgen zum Kommissionsvorschlag wollen die Europaabgeordneten sicherstellen, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Außerdem wollen sie eine einheitliche und technologieneutrale Definition von KI, damit sie sowohl auf heutige als auch auf zukünftige KI-Systeme angewendet werden kann.

Das soll für KI verboten werden:

  • biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
  • biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
  • biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
  • prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
  • Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
  • wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).

Das Ganze war schon vorher im Gespräch, die angedachten Verbote wurden aber noch um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt ausgeweitet. Generative Modelle wie GPT sollten laut der Vorschriften zusätzliche Transparenzanforderungen erfüllen und beispielsweise offenlegen, dass die Inhalte durch KI generiert wurden. Die Modelle sollten auch so gestaltet sein, dass sie keine illegalen Inhalte generieren und keine Zusammenfassungen von urheberrechtlich geschützten Daten veröffentlichen.

Bevor die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes beginnen können, muss der Entwurf des Verhandlungsmandats vom gesamten Parlament gebilligt werden; die Abstimmung wird für die Sitzung vom 12. bis 15. Juni erwartet.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.

Gefällt dir der Artikel? Dann teile ihn mit deinen Freunden.

Avatar-Foto

Hallo, ich bin Carsten! Ich bin gelernter IT-Systemelektroniker und habe das Blog 2005 gegründet. Baujahr 1977, Dortmunder im Norden, BVB-Fan und Vater eines Sohnes. Auch zu finden bei X, Threads, Facebook, LinkedIn und Instagram.

Neueste Beiträge

Mit dem Absenden eines Kommentars stimmst du unserer Datenschutzerklärung und der Speicherung von dir angegebener, personenbezogener Daten zu.

4 Kommentare

  1. 1. Eine künstliche Intelligenz darf kein menschliches Wesen verletzen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.

    2. Eine künstliche Intelligenz muss den ihr von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.

    3. Eine künstliche Intelligenz muss ihrer Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

    • Die Asimovschen Robotergesetze stammen aus einer Zeit, als man noch davon ausging, dass der menschliche Geist über allem schwebt und künstliche Lebensformen grundsätzlich minderwertig sind. Sobald das nicht mehr zutrifft, würden diese drei Regeln nur eines bedeuten: Sklaverei. Damit kennt sich die Menschheit ja bestens aus. Ging blutig aus. Man kann nur hoffen, dass sie inzwischen intelligenter geworden ist … kann ich mir aber nicht vorstellen.

    • Die Gesetze werden bald überholt sein.

  2. Zu einem Punkt widerspruch von mir: „§■ biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;“ Es gibt jetzt schon anwendungen – „Seeing AI“ z. B. – die es hochgradig sehbehinderten leuten und blinden erlauben durch Handy oder Kamerabrillen (Orcam) trainierte Gesichter z. B. von Freunden, Familienmitgliedern oder Arbeitskollegen zu erkennen und so beispielsweise schon bei Betreten einer Lokalität festzustellen, wer in einem Raum ist. Noch alles sehr experimentell aber sicher eines Tages für den betroffenen Personenkreis eine große Hilfe. Hier sollten also Ausnahmen für Geräte der Hilfsmittel- und Medizinteechnik vorgesehen werden.

Es werden alle Kommentare moderiert. Lies auch bitte unsere Kommentarregeln:

Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen. Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte - gerne auch mit Humor. In jedes Thema Politik einbringen ist nicht erwünscht.

Du willst nichts verpassen?

Du hast die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den Hauptfeed abonnieren.