Sim-to-Real – Bridging the Reality Gap for AV Perception

Ansprechpartner: Sebastian Huch, M. Sc.

Problemstellung

Heutzutage spielen neuronale Netze für die Detektion von Verkehrsteilnehmern im Umfeld eines autonomen Fahrzeuges einer immer wichtigere Rolle. Das sogenannte supervised Training dieser neuronalen Netze erfordert große gelabelte Datensätze, deren Erstellung zeitaufwändig und kostspielig ist. Simulationsdaten können eine praktische Alternative darstellen, allerdings erreichen mit synthetischen Daten trainierte neuronale Netze keine vergleichbare Performance wie mit realen Daten trainierte neuronale Netze. Dies ist die sogenannte Reality Gap.

Ziel

Im Rahmen dieses Forschungsprojektes soll die Reality Gap untersucht werden und Methoden gefunden werden, mittels denen die Reality Gap minimiert oder geschlossen werden kann. Konkret soll am Beispiel von LiDAR-Punktewolken die Reality Gap quantifiziert werden, indem reale und synthetische Punktewolken systematisch verglichen werden. Das Ziel dieses Forschungsprojektes ist die Entwicklung einer Methode, die eine Adaption synthetischer in realer Punktewolken ermöglicht. Dabei sollen Methoden des Deep Learnings eingesetzt werden. Am Ende des Forschungsprojektes soll eine Methode entwickelt sein, die eine generalistische Adaption von Punktewolken verschiedener Domains ermöglicht.

Durchführung

Im ersten Schritt dieses Forschungsprojektes wird die Reality Gap quantifiziert. Hierzu werden reale Punktewolken mit echten LiDAR-Sensoren aufgezeichnet und die gleichen Szenarien in einer Simulationsumgebung nachsimuliert, um synthetische Punktewolken zu generieren. Neuronale Netze zur Objektdetektion werden mit den aufgezeichneten realen und synthetischen Datensätzen trainiert und mit entsprechenden Metriken ausgewertet. Der zweite Schritt ist die Entwicklung einer Methode zur Adaption von synthetischen in reale Punktewolken. Hierzu werden verschiedene Netzarchitekturen untersucht und kombiniert, die ein Encoden, Adaptieren und Decoden von Punktewolken ermöglichen.