Autonomes Fahren verlangt KI mit Regel-Framework

Künstliche Intelligenz verändert überall die Spielregeln, und autonome Fahrzeuge (auf Englisch „autonomous vehicles“, kurz AVs) bilden hierbei keine Ausnahme. Statt sich auf manuell programmierte Entscheidungslogik zu verlassen, wird das KI-zentrierte autonome Fahrsystem darauf trainiert, Verkehrssituationen vorherzusagen, zu planen und darauf zu reagieren. Für AV-Entwickler eröffnet „Physical AI“ schnellere und kostengünstigere Möglichkeiten autonome Fahrsoftware zu entwickeln und zu testen. Beispiele dafür wären fotorealistische Sensordaten, intelligentere Datenaufbereitung und -kennzeichnung, das Erkennen unsicherer Verhaltensweisen, trainierte Verkehrsmodelle und vieles mehr.

Die Entwicklung schreitet dadurch schneller voran, die Systeme sind anpassungsfähiger und die Teams können weitaus mehr Verkehrsszenarien abdecken als je zuvor. All dies ist entscheidend, um einer echten fahrerlosen Autonomie näher zu kommen.

Allerdings gibt es dabei einen Haken: KI bringt zwar eine Menge Vorteile mit sich, aber Entwickler können sich nicht darauf verlassen, dass die KI ihre eigene Arbeit vollständig überprüft. Das ist in etwa so, als würden Schüler ihre eigene Prüfung benoten, oder Künstler ihre Gemälde selbst beurteilen. Die von KI erstellte autonome Fahrsoftware ist immer noch anfällig für blinde Flecken, Halluzinationen, versteckte Vorurteile und subtile Fehler, wenn er sich selbst validieren muss.

Dieser Artikel beleuchtet, warum es riskant und unzureichend ist, sich bei autonomen Fahrzeugen allein auf KI zu verlassen, warum Sicherheit die zentrale Herausforderung für Physical AI ist und wie die Kombination von KI mit regelbasierter Validierung einen Arbeitsablauf schafft, der nicht nur sicherer, sondern auch strukturiert und systematisch ist. Dies kann man sich wie Leitplanken für KI vorstellen: Sie verhindert, dass KI vom Kurs abkommt, und führt sie gleichzeitig auf einen zuverlässigen Weg.

Deshalb ist KI die Hoffnung für selbstfahrende Autos

Als selbstfahrende Autos zum ersten Mal in die Schlagzeilen kamen, klang die Geschichte fast wie Science-Fiction. Artikel malten eine Zukunft mit sichereren Straßen, auf denen Menschen einfacher zur Arbeit fahren können. Unternehmen stürzten sich darauf, um als Erste fahrerlose Fahrzeuge auf den Markt zu bringen. Aber der Weg dorthin erwies sich als schwieriger als erwartet, viele Projekte verpassten ihre Fristen und eine Vielzahl der Unternehmen mussten schließen.

In den letzten zehn Jahren wurde künstliche Intelligenz ein immer wichtigerer Bestandteil. Anfangs wurde KI vor allem für die Wahrnehmung eingesetzt, um Objekte rund um das Auto zu erkennen und zu klassifizieren. Neue vielversprechende Ansätze verschafften der KI jedoch auch eine größere Rolle in der Planungsphase des autonomen Systems: Sie hilft nun dabei, das Verhalten anderer Verkehrsteilnehmer vorherzusagen und zu entscheiden, wie das Auto darauf reagieren soll. Anstatt jede einzelne Verkehrsregel manuell zu programmieren, trainieren Ingenieure neuronale Netze, um sicheres Fahrverhalten zu imitieren (Imitation Learning) oder durch das Konzept von Belohnung und Bestrafung zu lernen (Reinforcement Learning).

KI eröffnet zudem eine weitere entscheidende Möglichkeit: die Simulation. Das Sammeln von realen Fahrdaten ist langsam, teuer und manchmal gefährlich. KI kann jedoch unendlich viele virtuelle Verkehrsszenarien generieren, damit autonome Fahrzeuge in einer sicheren digitalen Umgebung üben können, bevor sie sich der realen Welt stellen. In vielerlei Hinsicht hat sich KI von einem Teil des Puzzles zu einem Motor entwickelt, der das gesamte Feld vorantreibt.

Ist das Problem damit gelöst? Nicht ganz. Die Komplexität bleibt bestehen. Aber der schwierigste Teil des Problems ist mittlerweile nicht mehr das Erstellen von Software-Regeln, sondern das Trainieren und Validieren von KI-Modellen mit ausreichend vielfältigen Verkehrsszenarien.

Warum bei der Software-Entwicklung nicht einfach auf KI verlassen?

Wenn Unternehmen ein LLM nutzen, um sich intensiv mit einem Thema zu beschäftigen, bringt das viele Vorteile. Es ist schnell, intelligent und kann eine Fülle von Informationen liefern. Allerdingt gibt es auch zwei große Probleme:

1. Die Genauigkeit ist nicht garantiert: Nicht jede Antwort ist zuverlässig. Sie könnten Halluzinationen, schmeichelhafte oder übertrieben zustimmende Antworten oder sogar erfundene und veraltete Verweise erhalten.
2. Forschung braucht Struktur: Die Antworten sind oft über mehrere Suchanfragen verstreut. Um sie zu verstehen, müssen Entwickler die Ergebnisse sammeln, filtern und zu etwas Kohärentem und Vollständigem zusammenfassen.

Auch beim Training und der Validierung eines autonomen Fahrzeugs zeigen sich ähnliche Probleme. KI kann auf Anfrage Verkehrsszenarien generieren oder das Verhalten von autonomen Fahrzeugen abschätzen, aber es treten dieselben Herausforderungen auf, nur mit viel höheren Risiken.

• Genauigkeit: KI kann ihre eigene Arbeit nicht zuverlässig bewerten. Sie benötigen weiterhin regelbasierte Überprüfungen, um sicherzustellen, dass ein Szenario sicher ist. Außerdem sehen KI-generierte Szenen zwar sehr realistisch aus, sind aber nicht immer physikalisch korrekt, und die Anpassung kleiner Details kann schwierig sein.
• Struktur und Vollständigkeit: Wenn ein Szenario nicht im Trainingssatz enthalten ist, kann KI ins Straucheln geraten. Ein strukturierter Workflow ist unerlässlich, um die KI durch die gesamte Operational Design Domain (ODD) zu führen und sowohl bekannte Herausforderungen als auch versteckte Randfälle abzudecken.

Im Gegensatz zur Forschung sind die Kosten für Fehler hier enorm – es geht um das Leben realer Menschen im Straßenverkehr. Zusätzlich ist die Vielfalt der Verkehrssituationen enorm, was einen systematischen Prozess unverzichtbar macht.

KI produktionsreif machen: Der Ansatz von Foretellix

KI ist leistungsstark, aber sie in eine produktionsreife Lösung zu verwandeln, ist eine enorme Herausforderung. Foretellix hat eigene KI-Systeme entwickelt, ist sich jedoch bewusst, dass Künstliche Intelligenz allein nicht ausreicht. Deshalb wird sie mit einer formalen, genauen und skalierbaren Pipeline kombiniert, die die KI-Fähigkeiten von Foretellix ergänzt und verstärkt.

Und so funktioniert es: Wenn ein Benutzer ein bestimmtes Verkehrsszenario anfordert, erstellt der Szenario-Generator von Foretellix dieses und passt das Verhalten jedes Fahrzeugs und Objekts in Echtzeit an, um den Zielen des Benutzers gerecht zu werden. Im Gegensatz zur KI allein ist bei diesen Szenarien garantiert, dass sie wie vorgesehen funktionieren und physikalisch korrekt bleiben – ohne Überraschungen und Abkürzungen.

Dann kommt die Synergie ins Spiel: Sobald ein validiertes Szenario auf Objekt- und Trajektorien-Ebene erstellt wurde, wird dieses an KI-Tools übergeben, um realistische Sensordaten zu generieren. Diese Kombination bietet das Beste aus beiden Welten: die physikalische Präzision formaler Szenarien gepaart mit der Realitätsnähe KI-generierter Sensordaten. Darüber hinaus wird jedes KI-Ergebnis validiert, um die Vertrauenswürdigkeit und Anforderungskonformität aller Tests gewährleisten.

Um diesen Prozess gründlich und überschaubar zu gestalten, hat Foretellix zudem eine Management- und Automatisierungsebene entwickelt. Diese wandelt Projektziele in messbare Abdeckungsziele um und stellt sicher, dass alle relevanten Fahrverhalten, Anforderungen und Randfälle berücksichtigt werden. Erkannte Lücken werden automatisch geschlossen, während ein übersichtliches Dashboard Teams dabei hilft, den Fortschritt zu verfolgen und gezielt zu steuern.

Das Ergebnis ist ein nahtloser Workflow, der sowohl die formale Technologie von Foretellix als auch KI nutzt und die Entwicklung beschleunigt, während strenge Sicherheits- und Zuverlässigkeitsstandards eingehalten werden.

Vertrauenswürdige Szenarien und Ergebnisse

Was leistet diese Toolchain also tatsächlich? Hier ein genauerer Blick darauf:

1. Formale, genaue und skalierbare Szenarioerstellung und Bewertung der AV-Performance

• Abstrakte Szenarien, klare Absicht: Foretellix stützt sich auf die Sprache OpenSCENARIO, den ASAM-Industriestandard zur Beschreibung von Verkehrsszenarien. Die Teams beginnen mit einem klaren Verhaltensziel (z. B. „ein Auto schert aggressiv auf der nassen Fahrbahn ein“) und generieren dann Tausende von parametrisierten, physikalisch konformen Variationen des Szenarios. Die vorvalidierten Bibliotheken erleichtern die Erweiterung der Testabdeckung, ohne die Kontrolle darüber zu verlieren, was getestet wird und warum.
• Kontrollierte Variationen: Mit Foretellix können Nutzer reale Fahrten in der Simulation wiederholen und dabei intelligente Umwelt- und Verhaltensvariationen hinzufügen. Dies ermöglicht End-to-End-Tests von KI-Systemen mit vielfältigen und physikalisch plausiblen Daten. Dies ist besonders nützlich, wenn reale Daten rar sind oder wenn bestimmte Fälle zu riskant sind, um sie auf öffentlichen Straßen zu erfassen.
• Integrierte Validierung: Unabhängig davon, ob ein Szenario manuell erstellt, durch KI generiert oder aus realen Fahrprotokollen abgeleitet wurde, durchläuft es eine integrierte Validierung. Jeder Test muss seinen Zweck erfüllen, physikalischen Gesetzen entsprechen und den Sicherheitsstandards entsprechen. Das Ergebnis: Fehler haben tatsächlich eine Bedeutung, und bestandene Tests spiegeln die tatsächliche Systemleistung unter wohldefinierten Bedingungen wider.

 2. Prozessautomatisierung und -management

• Strukturierte Workflows: Aus Projektzielen werden automatisch Tests generiert, die Lücken in der Abdeckung und Performance identifizieren.
• Einheitliche Tests: On-Road-Tests und virtuelle Simulationen werden in einem einzigen nahtlosen Workflow kombiniert. Dadurch kann die Toolchain die Simulation auf der Grundlage realer Beobachtungen optimieren und ein vollständiges Bild der Einsatzreife und Sicherheit des autonomen Fahrsystems erstellen.
• Erstklassige Integrationen: Eine Toolchain mit offenem Ökosystem, die sich in die besten Tools und Simulatoren der Branche integrieren lässt, ermöglicht eine vielseitige und zukunftssichere Lösung.

Warum diese Lösung in Betracht ziehen?

Bei der Entwicklung autonomer Entscheidungsalgorithmen (Planungs- und Steuerungsoftware) beschleunigt Foretellix die Entwicklung und Tests bei reduzierten Kosten.

Für Projekte, die Wahrnehmungsalgorithmen oder End-to-End-Stacks umfassen und deshalb Sensordaten benötigen, empfiehlt Foretellix maßgeschneiderte Workflows, um die Entwicklung zu beschleunigen. Da sich KI-Technologien rasant weiterentwickeln, brauchen Sie eine zukunftsfähige Validierungsstrategie: flexibel für zukünftige KI-Entwicklungen, aber ohne Kompromisse bei Sicherheit oder Systematik. (na)