(Bild: metamorworks @ AdobeStock)
Die Besonderheit bei Vorgaben für künstliche Intelligenz (KI) besteht darin, dass sich Funktionen nicht einfach nach vorgegebenen Prozessen prüfen lassen. Das System muss selbst Sicherheit gewährleisten und Anforderungen an funktionale Sicherheit inhärent erfüllen. Deswegen haben sich Vertreter aus Industrie, Wirtschaft, Forschung und Verbraucherschutz im DKE-Arbeitskreis „Autonome Systeme“ zusammengeschlossen, um den neuen VDE-Standard AR-E 2842-61 zu entwickeln. Das knapp 600 Seiten umfassende Werk soll zukünftig für den sicheren Einsatz von KI sorgen und als Basis für die weitere Normung im Rahmen des European AI Acts dienen. Unternehmen haben damit eine Grundlage, KI sicher zu entwickeln und Produkte in den Markt einzuführen.
IEC-Norm 61508 als Grundlage
Zentrale Grundlage für die funktionale Sicherheit von E/E-Systemen im Automotive-Bereich und wesentlicher Ausgangspunkt für die AR-E 2842-61 ist die IEC Norm 61508, auf die sich die Ziffer 61 am Schluss bezieht. Die Anwendungsregel ist in sechs voneinander thematisch abgegrenzte Abschnitte unterteilt, die den kompletten Lebenszyklus eines KI-Systems abbilden. Das reicht von der Begriffsdefinition für den Umgang mit KI-Systemen bis zu Vorgaben zur Qualifikation und Zulassung der Systeme für die Marktphase.
Im Fokus der Anwendungsregel steht mit Teil 3 bis 5 die Entwurfsphase, in der es besonders auf Vorgaben zur Systemsicherheit, Cybersicherheit, Gebrauchstauglichkeit sowie ethische Fragestellungen ankommt. Hinzu kommen Vorgaben auf Komponentenebene – also Hardware, Software und KI-Blaupausen zur Anwendung einer KI-Methodik – sowie Maßnahmen zur Marktbeobachtung.
Teil 1 (Begriffe und Grundkonzepte), Teil 2 (Management), Teil 3 bis 5 (Kernprozesse) und Teil 6 (After Release of the solution) der Anwendungsregel sind komplett beim VDE-Verlag erhältlich.