EU: Regeln für künstliche Intelligenz sollen im Gesetz verankert werden
von caschy | 4 Kommentare
Die EU arbeitet an den weltweit ersten Vorschriften für künstliche Intelligenz. Der Ausschuss für Binnenmarkt und Verbraucherschutz und der Ausschuss für bürgerliche Freiheiten haben den Entwurf eines Verhandlungsmandats für erste Regeln für künstliche Intelligenz angenommen. In ihren Änderungsanträgen zum Kommissionsvorschlag wollen die Europaabgeordneten sicherstellen, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Außerdem wollen sie eine einheitliche und technologieneutrale Definition von KI, damit sie sowohl auf heutige als auch auf zukünftige KI-Systeme angewendet werden kann.
Das soll für KI verboten werden:
- biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
- biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
- biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
- prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
- Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
- wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).
Das Ganze war schon vorher im Gespräch, die angedachten Verbote wurden aber noch um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt ausgeweitet. Generative Modelle wie GPT sollten laut der Vorschriften zusätzliche Transparenzanforderungen erfüllen und beispielsweise offenlegen, dass die Inhalte durch KI generiert wurden. Die Modelle sollten auch so gestaltet sein, dass sie keine illegalen Inhalte generieren und keine Zusammenfassungen von urheberrechtlich geschützten Daten veröffentlichen.
Bevor die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes beginnen können, muss der Entwurf des Verhandlungsmandats vom gesamten Parlament gebilligt werden; die Abstimmung wird für die Sitzung vom 12. bis 15. Juni erwartet.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
1. Eine künstliche Intelligenz darf kein menschliches Wesen verletzen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.
2. Eine künstliche Intelligenz muss den ihr von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
3. Eine künstliche Intelligenz muss ihrer Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.
Die Asimovschen Robotergesetze stammen aus einer Zeit, als man noch davon ausging, dass der menschliche Geist über allem schwebt und künstliche Lebensformen grundsätzlich minderwertig sind. Sobald das nicht mehr zutrifft, würden diese drei Regeln nur eines bedeuten: Sklaverei. Damit kennt sich die Menschheit ja bestens aus. Ging blutig aus. Man kann nur hoffen, dass sie inzwischen intelligenter geworden ist … kann ich mir aber nicht vorstellen.
Die Gesetze werden bald überholt sein.
Zu einem Punkt widerspruch von mir: „§■ biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;“ Es gibt jetzt schon anwendungen – „Seeing AI“ z. B. – die es hochgradig sehbehinderten leuten und blinden erlauben durch Handy oder Kamerabrillen (Orcam) trainierte Gesichter z. B. von Freunden, Familienmitgliedern oder Arbeitskollegen zu erkennen und so beispielsweise schon bei Betreten einer Lokalität festzustellen, wer in einem Raum ist. Noch alles sehr experimentell aber sicher eines Tages für den betroffenen Personenkreis eine große Hilfe. Hier sollten also Ausnahmen für Geräte der Hilfsmittel- und Medizinteechnik vorgesehen werden.