Forschungsprojekte

KI Absicherung

Methoden und Maßnahmen zur Absicherung von KI-basierten Wahrnehmungsfunktionen für das automatisierte Fahren

Start: 07.2019

Ende: 06.2022

Ein autonomes Fahrzeug muss seine Umwelt wahrnehmen und adäquat auf sie reagieren können. Eine fehlerfreie und zuverlässige Umfelderkennung ist eine Grundvoraussetzung um autonome Fahrfunktionen im täglichen Verkehr umzusetzen. Das autonome Fahrzeug muss alle relevanten Verkehrsteilnehmenden korrekt erkennen und klassifizieren können. Das gilt insbesondere in komplexen urbanen Verkehrssituationen. Hier kommen zunehmend Methoden der Künstlichen Intelligenz (KI) zum Einsatz. Solche auf maschinellem Lernen beruhenden KI-Funktionsmodule werden damit zu Schlüsseltechnologien.

Werden diese Technologien in hochautomatisierte Fahrzeuge integriert, gilt es, die gewohnte funktionale Sicherheit bisheriger Systeme zu gewährleisten – ohne dass die Person hinter dem Steuer notfalls die Fahraufgabe übernehmen muss. Existierende und etablierte Absicherungsprozesse lassen sich jedoch nicht ohne Weiteres auf maschinelle Lernverfahren übertragen.

Wir nehmen uns dieser Herausforderung an. Das Projekt KI Absicherung erarbeitet exemplarisch eine stringente und nachweisbare Argumentationskette für die Absicherung und Freigabe von KI-Funktionsmodulen im Kontext des hochautomatisierten Fahrens.

Dafür wird im Projekt eine Prozesskette mit offenen standardisierten Schnittstellen zur Erzeugung hochwertiger und reproduzierbarer synthetischer Trainings- und Testdatensätze erzeugt. Weiterhin werden KI-Algorithmen zur Fußgängererkennung programmiert und vorwiegend mit diesen erzeugten synthetischen Daten trainiert und getestet. Dadurch können beispielhaft Methoden und Maßnahmen entwickelt werden, die geeignet sind, die Argumentationskette zur prinzipiellen Absicherung mit messbaren Leistungs- und Sicherheitsmaßen für KI-Funktionsmodule zu untermauern. Mithilfe der im Projekt gewonnenen Erkenntnisse soll im Dialog mit Standardisierungsgremien und Zertifizierungsstellen die Grundlage für einen Industriekonsens zur Absicherung solcher KI-Funktionsmodule gelegt werden.

KI Absicherung ist ein Projekt der KI Familie und wurde aus der VDA Leitinitative autonomes und vernetztes Fahren heraus entwickelt.

Ansprechperson

Christian Hubschneider

Stellvertretender Abteilungsleiter

Bereich: Intelligent Systems and Production Engineering

Forschungsschwerpunkt

Applied Artificial Intelligence

In diesem Forschungsschwerpunkt liegt das Hauptaugenmerk für das FZI auf den Themen Künstlicher Intelligenz (KI) und Mensch und KI-Engineering. Zudem beschäftigt sich das FZI mit Fragestellungen zu dedizierter Hardware für KI sowie KI zur Prädiktion.