Auto, das Wellen aussendet, Bild von oben

Mehr Sicherheit für künstliche Intelligenz (KI) im Straßenverkehr: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF haben ein gemeinsames Projekt gestartet um zu erforschen, wie die IT-Sicherheit von KI-Systemen in Autos nach allgemein anerkannten Kriterien getestet werden kann. (Bild: BSI)

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF haben ein gemeinsames Projekt gestartet, um zu erforschen, wie sich die IT-Sicherheit von KI-Systemen in Autos nach allgemein anerkannten Kriterien testen lässt. Aus den Erkenntnissen des Projekts sollen mittelfristig Prüfkriterien für KI-Systeme in Form einer modularen technischen Richtlinie entstehen. Diese kann in die Entwicklung künftiger Sicherheitsüberprüfungen für Autos und internationale Bemühungen zur Standardisierung einfließen. Bis September dieses Jahres wird das AI Lab von ZF das Projekt in Zusammenarbeit mit dem BSI als Auftraggeber umsetzen. Als Projektpartner ist zudem die TÜV Informationstechnik (TÜViT) eingebunden, ein auf IT-Sicherheit spezialisiertes Unternehmen der TÜV Nord.

Die neue Technologie setzt komplexe Anwendungsfälle auf Basis der Interaktion von klassischer Software, KI-Systemen, Sensoren und der physischen Umwelt um. Zunächst simulieren die Partner im Labor Angriffe und analysieren die Reaktion von KI-Systemen. Dabei handelt es sich um unterschiedliche Methoden sogenannter Adversarial Attacks auf eine aktuelle KI-basierende Verkehrszeichenerkennung. Bei diesen Angriffen wird versucht, optische Signale zu manipulieren, um KI-Systeme zur Ausführung nicht gewünschter Operationen zu bringen. So könnte beispielsweise ein manipuliertes Tempo-60-Schild als Tempo-120-Schild interpretiert werden. Damit bereitet das Projekt die Erprobung und Weiterentwicklung entsprechender Anforderungen, Methoden und Werkzeuge vor, um diese dann in einem Folgeprojekt gezielt an zwei Use-Cases durchzuführen.

Sie möchten gerne weiterlesen?

Registrieren Sie sich jetzt kostenlos:

Bleiben Sie stets zu allen wichtigen Themen und Trends informiert.
Das Passwort muss mindestens acht Zeichen lang sein.
*

Ich habe die AGB, die Hinweise zum Widerrufsrecht und zum Datenschutz gelesen und akzeptiere diese.

Mit der Registrierung akzeptiere ich die Nutzungsbedingungen der Portale im Industrie-Medien-Netzwerks. Die Datenschutzerklärung habe ich zur Kenntnis genommen.

Sie sind bereits registriert?

Unternehmen

Bundesamt für Sicherheit in der Informationstechnik (BSI)

N/A
53175 Bonn
Germany

ZF Friedrichshafen AG

Löwentalerstraße 20
88046 Friedrichshafen
Germany