Künstliche Intelligenz: TÜV startet eigenes Prüfprogramm und Zertifizierungen

Künstliche Intelligenz: TÜV startet eigenes Prüfprogramm und Zertifizierungen

Die deutschen TÜV-Organisationen wollen mehr Verlässlichkeit in den Markt für künstliche Intelligenz bringen und arbeiten an einem gemeinsamen Rahmenprogramm zur Zertifizierung entsprechender Systeme. Unternehmen und Entwickler sollen damit die Möglichkeit erhalten, Qualität, Sicherheit und Funktionsweise ihrer KI-Anwendungen unabhängig überprüfen und bescheinigen zu lassen.

Hintergrund ist neben der allgemeinen Skepsis vieler Nutzer vor allem die europäische KI-Verordnung (EU AI Act), heißt es in der Mitteilung des Verbandes. Das Rahmenprogramm des TÜV dockt direkt an diese Vorgaben an und ergänzt sie um technische Prüfungen. Aktuell läuft eine Pilotphase unter realen Einsatzbedingungen, ab Ende 2026 soll das Angebot dann regulär für Unternehmen zur Verfügung stehen.

Geplant sind drei Zertifizierungsstufen mit unterschiedlicher Prüftiefe. Die erste Stufe richtet sich an Systeme abseits der Hochrisiko-Kategorie und deckt grundlegende Anforderungen ab. Die zweite Stufe steht allen Systemen offen und beinhaltet eine strukturierte Risikobewertung inklusive Dokumentationsprüfung und Vor-Ort-Begutachtung. Bei der dritten Stufe kommen ergänzend eigenständige technische Tests hinzu, um die Leistungsfähigkeit und Zuverlässigkeit der Systeme im Detail auf Herz und Nieren abzuklopfen. Ob sich das TÜV-Siegel in der Praxis als echtes Vertrauensmerkmal für Endkunden und Geschäftspartner durchsetzt, bleibt abzuwarten - ist irgendwie schwierig greifbar bei den rasanten Änderungen im Markt.

Angebot
ACEMAGIC Retro X3 Mini PC, AMD Ryzen 7 H 255 1TB SSD 16GB LPDDR5 RAM | Radeon 780M, USB4, 2.5G LAN, WiFi 6E, BT...
  • 【AMD RYZEN 7 H 255】Dieser Mini-PC wird vom AMD Ryzen 7 H 255 Prozessor (8 Kerne / 16 Threads, 16 MB...
  • 【Überragende Grafikleistung mit AMD Radeon 780M】Der Retro verfügt über einen integrierten AMD...
  • 【Ausreichend Speicher & flexibel erweiterbar】Ausgestattet mit 16 GB LPDDR5-6400 MT/s Arbeitsspeicher...

ACEMAGIC K1 Mini PC, AMD Ryzen 5 7530U(6C/12T),16GB LPDDR4X 512GB M.2 SSD | Mini Computer mit Windows 11 Pro | WiFi...
  • 【Übertrifft RYZEN 7】Der im K1 Mini PC integrierte AMD Ryzen 5 7530U Prozessor basiert auf der Zen...
  • 【Hervorragende integrierte Grafik】Ausgestattet mit der AMD Radeon RX Vega 7 Grafikeinheit, bietet sie...
  • 【Leistungsaufnahmesteuerung】Basierend auf dem 7nm FinFET-Herstellungsprozess, ermöglicht eine...

Angebot
ACEMAGIC K1 Mini PC AMD Ryzen 5400U 16GB RAM 256GB SSD Windows 11 Pro | 4K Triple Display (USB 3.2+DP+HDMI), WiFi...
  • ⚡【Kraftvolle & zuverlässige Rechenleistung】Dieser Mini-PC wird vom AMD Ryzen 3 5400U mit 4 Kernen...
  • ⚡【Ampliación flexible: almacenamiento dual】Este mini PC está equipado con 16 GB de memoria LPDDR...
  • ⚡【DREIFACH-MONITOR & ERWEITERUNGS-POWER】Maximieren Sie Ihre Produktivität und Ihr Entertainment...

Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision - ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.

Fehler im Artikel entdeckt? Hier melden.
Avatar-Foto

Hallo, ich bin Caschy! Ich bin gelernter IT-Systemelektroniker und habe das Blog 2005 gegründet. Baujahr 1977, Dortmunder im Norden, BVB-Fan und Vater eines Sohnes. Ich habe eine ausgefallene Frisur. Auch zu finden bei X, Threads, Facebook, LinkedIn und Instagram.

11 Kommentare

  1. Da wittert der TÜV wieder eine Möglichkeit, Geld zu drucken.

    Der deutsche TÜV ist wirklich das absolute letzte, was wir im Bereich künstlicher Intelligenz brauchen.

  2. bullshit. TÜV = Geld gegen Zertifikat. Es sagt rein GAR NICHTS aus.

    • @starDoch und es ist notwendig. Der lemon Effekt beschreibt es sehr gut.
      Wenn der Käufer eine Eigenschaft nicht prüfen kann, wird diese beim Kauf nicht berücksichtigt. Der Verkäufer ignoriert die Eigenschaft undnoptimiert auf andere Faktoren.
      Des wegen spielen sichere Software heute keine Rolle. Man kann es als Käufer nicht vergleichen und einfordern.

      Wir glauben ja noch immer das man keine sichere Software entwickeln kann. 😀

  3. LLMs sind nicht deterministisch, d.h. man kann nie garantieren, was rauskommt. Selbst wenn das Ding so ein Zertifikat hat, weiß keiner ob es nicht doch giftige Rezepte oder Atombomben Pläne ausspuckt.

    • @MatthiasKI kann also nicht mit deterministischen Systemen verknüpft werden? Du tust ja gerade so, als wäre KI nicht in ein Softwaresystem integriert und Berechtigungen, Filter etc. auch nicht anwendbar.

  4. Wenn das so läuft, wie bei den Kfz, dann mal gute Nacht. Mit dem Auto zum TüV und stillgelegt. Warum? „Nicht erlaubte Anbauteile“. „Ja, aber, die haben sie doch selbst eingetragen?“. „Das ist ist unverbindlich“.
    Und klar, dass diese Gangster sich einklinken wollen. Nur seltsam, wenn die Entwicklung so rasant ist, dass es heißt „was kümmert mich dein Zertifikat von gestern?“.

  5. Sehe diese „TÜV“ Zertifizierung auch als reinen Dummenfang. Ja durchaus sicherlich viele Kriterien etc die Beachtung finden sollten. Aber was bringt solch ein TÜv Siegel außer bei Leuten auf „Dummenfang“ zu gehen, weil TÜV ja mit etwas „Gutes“ assoziieren soll.

  6. nur das können wir noch, prüfen, regeln, zertifizieren, aus dem Verkehr ziehen, vor lauter Angst einschränken…aber mit selbst sich an Innovation und Fortschritt beteiligen da hört es leider auf.

  7. Für mich ist das vor allem ein neues Geschäftsmodell. Der TÜV stellt sich mit seinem guten Namen zwischen Anbieter und Kunde und kassiert dafür, ohne selbst etwas zu entwickeln. Ein Parasit mit Siegel.

    Bei KI wird das besonders absurd. Ein Modell ändert sich mit jedem Update, der Markt alle paar Wochen. Was heute geprüft wird, ist morgen schon eine andere Software. Was genau wird da eigentlich bescheinigt? Und woher soll ein Prüfer das Fachwissen haben, das er den Entwicklern voraus sein müsste?

    Treffen wird es nicht die großen Konzerne, denn denen vertraut man ohnehin wegen ihres Namens. Es trifft die Kleinen. Sie können sich ein Audit für mehrere Tausend Euro kaum leisten, brauchen es aber, sobald Ausschreibungen oder Großkunden das Siegel verlangen. Freiwillig ist das nur, bis es die ersten verlangen.

    Am Ende schützt so ein Siegel nicht die Nutzer, sondern die Großen vor Konkurrenz. Das ist wieder mehr Bürokratie, und bezahlen müssen sie die, die sie am wenigsten tragen können.

  8. Das letzte, was Du sehen wirst wenn Du einem Terminator gegenüberstehst, ist dann dann wahrscheinlich sein TÜV-Siegel für geprüfte Hochrisiko-KI.

Moin! Lass uns respektvoll diskutieren.

Wir freuen uns auf sachliche, konstruktive und gerne humorvolle Beiträge. Da wir hier wie mit real anwesenden Personen umgehen möchten, löschen wir Kommentare, die nur herabwürdigen oder völlig am Thema vorbeigehen. Ein Recht auf Veröffentlichung besteht nicht. Mit dem Absenden stimmst du unserer Datenschutzerklärung und der Speicherung deiner Daten zu.

Schreib einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert