EU-Parlament beschließt mit dem AI-Act das erste KI-Gesetz der Welt
von caschy | 12 Kommentare
Das Europäische Parlament hat ein Gesetz für Künstliche Intelligenz beschlossen. Ziel sei es, Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit vor hochriskanter KI zu schützen und gleichzeitig Innovationen zu fördern und Europa als Vorreiter auf diesem Gebiet zu etablieren. Die Verordnung legt Verpflichtungen für KI auf der Grundlage ihrer potenziellen Risiken und des Ausmaßes ihrer Auswirkungen fest.
Die neu eingeführten Bestimmungen untersagen gewisse KI-Applikationen, die die Rechte der Bürger bedrohen könnten. Dazu zählen biometrische Klassifizierungssysteme, die auf empfindlichen Merkmalen basieren, sowie das willkürliche Sammeln von Gesichtsbildern aus dem Internet oder Aufnahmen von Überwachungskameras zur Generierung von Gesichtserkennungsdatenbanken.
Emotionserkennung am Arbeitsplatz und in Schulen, soziale Bewertung, vorausschauende Polizeiarbeit (wenn sie ausschließlich auf der Profilerstellung einer Person oder der Bewertung ihrer Eigenschaften basiert) und KI, die menschliches Verhalten manipuliert oder die Schwachstellen von Menschen ausnutzt, werden ebenfalls verboten.
Der Einsatz biometrischer Identifikationssysteme (RBI) durch Strafverfolgungsbehörden ist grundsätzlich verboten, außer in eng definierten Situationen. „Echtzeit“-RBI kann nur eingesetzt werden, wenn strenge Sicherheitsvorkehrungen eingehalten werden, z. B. ist ihre Verwendung zeitlich und räumlich begrenzt und unterliegt einer spezifischen vorherigen gerichtlichen oder behördlichen Genehmigung. Solche Einsatzmöglichkeiten können beispielsweise die gezielte Suche nach einer vermissten Person oder die Verhinderung eines Terroranschlags sein. Die nachträgliche Nutzung solcher Systeme („Post-Remote-RBI“) gilt als risikoreicher Anwendungsfall, der eine gerichtliche Genehmigung erfordert und mit einer Straftat verbunden ist.
Darüber hinaus müssen künstliche oder manipulierte Bilder, Audio- oder Videoinhalte („Deepfakes“) eindeutig als solche gekennzeichnet werden.
Auf nationaler Ebene müssen laut EU-Gesetz regulatorische Sandboxen und reale Tests eingerichtet und für KMUs und Start-ups zugänglich gemacht werden, um innovative KI zu entwickeln und zu trainieren, bevor sie auf den Markt gebracht wird.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Kennzeichnungspflicht für Deepfakes… Genau, trainieren wir die Leute einfach darauf „wenn nicht Deepfake drauf steht, ist es echt“. So wie wir ihnen Jahre lang beigebracht alle Browserwarnungen wegzuklicken und überall sein Passwort einzutippen. Ich bin sprachlos…
Man sollte nicht von sich auf andere schließen.
Die Regelungen sind notwendig und richtig. Und sollten sie zukünftig nicht ausreichen, dann kann nachgebessert werden.
Nichtsdestotrotz verbieten sie nicht die Nutzung des eigenen Kopfes.
zur kennzeichnung gibt es zwei wichtige hinweise im gesetzestext (§52). zum einen die hier im artikel vorgestellte pflicht deepfakes als solche zu kennzeichnen. diese pflicht trifft übrigens die nutzer, nicht die anbieter.
die zweite verpflichtung aus §52 trifft dagegen die anbieter. und diese umfasst die pflicht alle ausgaben (audio, video, text und bild) maschinenlesbar als ki generiert bzw. manipuliert zu markieren.
diese information muss aber eben nicht an nutzer der ergebnisse weitergegeben werden, solange es sich nicht um einen deepfake handelt – das ist zumindest meine nicht-juristische interpretation dieses §.
in der konsequenz bedeutet das, dass die nutzer, die deepfakes ohne den hinweis veröffentlichen dafür haftbar sind.
“… und Europa als Vorreiter auf diesem Gebiet zu etablieren.”
Aber Europa ist doch längst Vorreiter: im Erlassen von Gesetzen, Beschränkungen, Gängeleien, dem Verhängen von Bussen und anderem Ungemach, um vom eigenen Versagen abzulenken.
Wie wäre es, wenn Europa ein ernsthafter Konkurrent zu richtigen “K.I.-Nationen” werden würde?
(War natürlich nur ein Witz; wie sollte das auch gehen.)
Ständig dieses Gemeckere über Europa…
Du hast doch die Wahl, zieh in die USA und arbeite dort in einem gut bezahlten Job.
Wie, du willst nicht auf Kündigungsschutz, Lohnfortzahlung im Krankheitsfall, eine bezahlbare Krankenversicherung, den Schutz deiner persönlichen Daten sowie Sozialleistungen (wenn es mal so richtig schief geht) verzichten?
Könnte das vielleicht daran liegen, dass einige Gesetze und Regelungen in Europa oder Deutschland dir dann doch ganz gut gefallen? 🙂
Emotionserkennung am Arbeitsplatz und in Schulen…werden verboten.
Schade, wäre eigentlich eine Lösung für Burnout und Depression gewesen.
Viele Führungskräfte besuchen auch BurnOut-Seminare, weil sie es bei ihren Mitarbeitern nicht rechtzeitig erkannt haben.
Stimmt! Guter Fall für einen sinnvollen Einsatz von KI.
Hallo Krtek, Emotionserkennung am Arbeitsplatz oder in der Schule durch KI? Oh nein bitte nicht. auch nicht im auto , ich möchte nicht daß ein Gerät meint über meinen inneren zustand aus Mimik oder Gestik zurückschließen zu können. Und dann ggf. entscheidungen zu treffen … ich erinnere immer wieder gern an die Spitzel, IMs und so in Schulen, Betrieben und auch in der eigenen Familie. Die meldeten dann auch wenn menschen angeblich unzufrieden mit dem herrschenden System waren oder Zeichen von Streß zeigten – „knabbert während der FDJ-Sitzung an den Fingernägeln“ stand dann in so schlauen Dossiers. Alles schon vergessen? Und das soll nun Kollege KI machen? Wehret den Anfängen.
Warum bei Burnout und Depression aufhören? Dann könnten die Mitarbeiter auch hinsichtlich Fettleibigkeit, zu hohem Alkohol-. Nikotin oder sonstigem Drogenkonsum gescannt werden.
Und was wäre dann die Konsequenz? Ist es Aufgabe des Arbeitgebers ihre Mitarbeiter zu erziehen? Und möchte man sich vom seinem Arbeitgeber sein Stück Torte oder das Bier am Abend madig machen lassen? Es macht vermutlich keinen Sinn die Menschen zu entmündigen. Deshalb ist die Regelung auch so ausgelegt.
Hallo pieMan , „Und was wäre dann die Konsequenz? Ist es Aufgabe des Arbeitgebers ihre Mitarbeiter zu erziehen? Und möchte man sich vom seinem Arbeitgeber sein Stück Torte oder das Bier am Abend madig machen lassen? “ wenn dem so wäre dann lebten wir in China oder einem vergleichbaren totalitären System. Auch wenn es da eher die allmächtige partei und die politischen Kader sind die Kontrolle ausüben – aber die Unternehmen kennen auch keine Achtung vor der Privatshäre ihrer Angestellten. Nein in so einer Welt mag ich nicht leben.
wir brauchen hier aber systeme, die auf die menschen fokussieren, nicht auf den arbeitsplatz. den denn dem arbeitgeber geht es ja nur um die erhaltung der arbeitskraft, nicht um die gesundheit der mitarbeiter:in. hier kommt das nur zufällig zusammen.
Sucht mal im Internet nach der Grafik: US tech sector has no comparison in Europe.
Wenn man sich diese charmante Grafik als eine Art Wettkampf im Schwimmbad vorstellt, dann hat der US-Tech-Schwimmer einen ziemlichen Vorsprung hingelegt – so groß, dass man fast denken könnte, er hätte einen Motor am Pops. Die Schwimmer aus der Eurozone und die, die nicht im Euro-Club sind, geben sich Mühe, aber es sieht eher aus, als würden sie für den guten Stil punkten wollen und nicht für die Geschwindigkeit.
Ganz im Ernst, seit 2004 schwimmt der US-Tech-Sektor in einem Ozean aus Geld, und seine Marktwerte sind wie ein Hochseetaucher, der nach immer wertvolleren Schätzen sucht – und findet. Im Vergleich dazu plantschen die europäischen Tech-Sektoren noch im Kinderbecken.
Und während Europa gerne den Bademeister spielen möchte, indem es KI und andere Technologien mit allerlei Regeln ausstattet, könnte man meinen, sie würden damit eher das Wasser aus dem Pool lassen, statt den Schwimmern zu helfen, schneller zu sein. Sicherheit ist wichtig, klar, aber manchmal hat man das Gefühl, dass Europa den Rettungsring festhält, während die US-Tech-Rakete schon längst zum Mond unterwegs ist.
Aber hey, es heißt ja nicht umsonst, Old Europe oder Museumsland….