(Bild: BARBARA BUDERATH)
Der TÜV-Verband begrüßt die Zustimmung des Rats zur europäischen KI-Verordnung (AI Act), die den ersten europäischen Rechtsrahmen für sichere und vertrauenswürdige KI schaffen wird. Vor der Abstimmung war ungewiss, ob der AI Act eine Mehrheit im Rat finden würde, da unter anderem Deutschland und Frankreich Vorbehalte geäußert hatten.
Ein zentrales Element des AI Acts ist der risikobasierende Ansatz. Nur KI-Systeme, die als hochriskant eingestuft werden, müssen verpflichtende Sicherheitsanforderungen erfüllen. Dazu zählen zum Beispiel KI-Systeme in Medizinprodukten oder in kritischen Infrastrukturen. Aus Sicht des TÜV-Verbands ist es wichtig, dass eine unabhängige Prüfstelle bestimmte hochriskante KI-Systeme zwingend prüft. So lässt sich sicherstellen, dass alle Anforderungen an Transparenz, Datenqualität oder Cybersicherheit eingehalten werden. Weniger risikobehaftete KI-Systeme fallen dagegen nicht in den Anwendungsbereich der Regulierung.
Kompromisstext zum AI Act
Die EU-Institutionen haben sich im Dezember 2023 auf einen politischen Kompromisstext zum AI Act geeinigt. Mit der Ratsabstimmung haben die EU-Mitgliedsstaaten diesem Kompromiss nun offiziell zugestimmt. Nun muss noch das EU-Parlament - voraussichtlich im April - über den Text abstimmen. Anschließend wird der Text im Amtsblatt der EU veröffentlicht und tritt damit offiziell in Kraft. Nach einer Übergangsfrist von zwei Jahren sind die meisten Anforderungen ab voraussichtlich Mitte 2026 verpflichtend anzuwenden.
Auch Allzweck-KI muss Anforderungen erfüllen
Ausdrücklich positiv zu bewerten sei ebenfalls, dass künftig auch sogenannte Allzweck-KI, etwa generative KI-Modelle wie ChatGPT, bestimmte Mindestanforderungen erfüllen müssen. Denn insbesondere leistungsstarke KI-Modelle können für Fake News, Deepfakes oder die Manipulation vulnerabler Gruppen genutzt werden.
Nun gilt es, die Weichen für eine erfolgreiche Umsetzung des AI Acts auf nationaler und europäischer Ebene zu stellen. Die Anforderungen des AI Acts müssen zeitnah durch harmonisierte europäische Normen konkretisiert werden, um Rechtssicherheit für KI-Anbieter, Prüforganisationen und Behörden zu schaffen. Darüber hinaus müssen Rechtsunsicherheiten bei der genauen Klassifizierung von Hochrisiko-KI-Systemen beseitigt werden. Der TÜV-Verband drängt darauf, dass die EU-Kommission zeitnah klare Umsetzungsleitfäden mit konkreten Beispielen veröffentlicht, um möglichen Fehleinschätzungen durch die Anbieter vorzubeugen.
KI-Systeme in Qualitätszentren prüfen
Der Umsetzungserfolg des AI Acts wird wesentlich von der rechtzeitigen und vollständigen Prüfbereitschaft aller Akteure im KI-Ökosystem abhängen. Der TÜV-Verband begrüßt dabei auch die Verpflichtung der Mitgliedstaaten, entsprechende Reallabore (sogenannte Regulatory Sandboxes) einzurichten, in denen Anbieter ihre KI-Systeme entwicklungsbegleitend testen können. Für solche KI-Qualitätszentren, die auch KMU und Start-ups zugutekommen sollen, setzt sich der Verband seit mehreren Jahren mit den AI Quality & Testing Hubs ein.
Die TÜV-Prüforganisationen bereiten sich intensiv auf den Aufbau von entsprechendem Prüf-Knowhow vor. Bereits Anfang 2021 wurde das TÜV AI.Lab gegründet, um regulatorische und technische Anforderungen an KI zu begleiten und die Entwicklung von Prüfkriterien voranzutreiben. Das Labor engagiert sich dabei unter anderem als Partner in der Nationalen Initiative für Künstliche Intelligenz und Datenökonomie (Mission KI) des Bundesministeriums für Digitales und Verkehr und der Deutschen Akademie der Technikwissenschaften.
Dr. Joachim Bühler, Geschäftsführer TÜV-Verband
„Durch ein Scheitern des AI Acts wären KI-Systeme auf absehbare Zeit unreguliert – und damit unsicher – geblieben. Die jetzige Einigung zeigt die Entschlossenheit der EU-Mitgliedstaaten, Künstliche Intelligenz sicher zu machen. Mit dem AI Act positioniert sich die EU als Vorreiter für sichere und vertrauenswürdige KI. Das bringt einen entscheidenden Wettbewerbsvorteil. Zudem schafft der EU-Gesetzgeber mit dem risikobasierenden Ansatz die richtige Balance zwischen Innovation und Schutz. Der AI Act wird den Erfolg europäischer KI-Anbieter fördern, indem er Sicherheit und Vertrauen als Alleinstellungsmerkmal von künstlicher Intelligenz ‚made in europe‘ fördert.“
