Das Projekt Safe AI Engineering befasst sich mit der Gewährleistung der Sicherheit von KI-gesteuerten Komponenten beim automatisierten und vernetzten Fahren. Das Projekt soll eine kontinuierliche, lebenszyklusweite Sicherheitsmethodik entwickeln, um die Sicherheit in dynamischen Umgebungen zu gewährleisten. Durch die Integration seiner Ergebnisse in etablierte Normen wie ISO 26262 und SOTIF überbrückt das Projekt die Lücke zwischen der KI-Verifizierung und der etablierten Sicherheitsgarantie für die Automobilindustrie. Das Projekt konzentriert sich auf die kamerabasierte Erkennung von gefährdeten Verkehrsteilnehmern (VRUs), wie zum Beispiel Fußgängern, mit Hilfe von tiefen neuronalen Netzen.
Es werden drei zunehmend komplexe Szenarien definiert – von der Erkennung eines statischen Fußgängers bis zur Handhabung mehrerer dynamischer VRUs in städtischen Umgebungen.