Im Beisein von NRW-Digitalminister Prof. Dr. Andreas Pinkwart (Mitte) haben BSI-Präsident Arne Schönbohm (rechts) und Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer IAIS, eine Kooperationsvereinbarung unterzeichnet. Die beiden Institute wollen zusammen Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz entwickeln. MWIDE/M. Hermenau

Im Beisein von NRW-Digitalminister Prof. Dr. Andreas Pinkwart (Mitte) haben BSI-Präsident Arne Schönbohm (rechts) und Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer IAIS, eine Kooperationsvereinbarung unterzeichnet. Die beiden Institute wollen zusammen Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz entwickeln. MWIDE/M. Hermenau

Das Ziel ist, KI-Systeme zertifizieren zu können, um ihre Sicherheit und Vertrauenswürdigkeit nachzuweisen. Dazu braucht es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen sowie Anwendern und Verbrauchern Auskunft über zugesicherte Eigenschaften von KI-Technologien geben. Dafür arbeiten die beiden Kooperationspartner mit zahlreichen Partnern aus Deutschland und Europa zusammen. „Bereits im kommenden Jahr werden wir erste Prüfungen mit Unternehmen durchführen“, sagte Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS in Sankt Augustin.

Projekt ‚Zertifizierte KI‘ ab Anfang 2021

Als erstes großes Vorhaben startet Anfang 2021 das Flagschiff-Projekt ‚Zertifizierte KI‘ der Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen (KI.NRW). In dem Projekt legen unter anderem Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie, und Handel die konkreten Bedarfe an Prüfverfahren fest und führen Pilotprüfungen durch. Branchen- und technologiebezogenen Anwenderkreise werden die Kriterien und Maßstäbe für eine Prüfung in der Praxis definieren. Mit diesem breiten Beteiligungsprozess soll sichergestellt werden, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden. An diese Aufgabe werde das Bundesamt für Sicherheit in der Informationstechnik (BSI) mit seinem „langjährigen Partner Fraunhofer IAIS angehen“, sagte Arne Schönbohm, Präsident des BSI in Bonn. „Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert.“

Whitepaper zum Vertrauenswürdigen Einsatz von KI

Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung haben die Experten des Fraunhofer IAIS bereits im vergangenen Jahr im Rahmen eines interdisziplinären Forschungsprojektes mit Wissenschaftlern aus den Bereichen Informatik, Recht und Philosophie geschaffen, die die zentralen Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert haben. Die Ergebnisse wurden 2019 in dem Whitepaper ‚Vertrauenswürdiger Einsatz von Künstlicher Intelligenz‘ veröffentlicht.