KI-Absicherung

Ein autonomes Fahrzeug muss seine Umwelt wahrnehmen und auf diese adäquat reagieren können. Diese Umfelderkennung muss in der Lage sein, die Bewegungen anderer Verkehrsteilnehmender, etwa von Fußgängern, zu interpretieren und daraus Intentionen für deren weiteres Verhalten abzuleiten. In hochautomatisierten Fahrzeugen werden diese Aufgaben zunehmend von Künstlicher Intelligenz (KI) übernommen. Solche auf Maschinellem Lernen beruhenden KI-Funktionsmodule entwickeln sich damit zu einer Schlüsseltechnologie.

Eine der größten Herausforderungen bei der Integration dieser Technologien in hochautomatisiert fahrende Autos ist es, die gewohnte funktionale Sicherheit bisheriger Systeme zu gewährleisten. Existierende und etablierte Absicherungsprozesse lassen sich nicht ohne weiteres auf maschinelle Lernverfahren übertragen. Um diese Herausforderung zu lösen, fördert das BMWi das Forschungsprojekt „KI-Absicherung“ bestehend aus 25 Partnerunternehmen und -institutionen unter der Leitung der Volkswagen AG und des Fraunhofer IAIS.

„KI-Funktionsmodule können automatisiertes Fahren sicherer machen, zum Beispiel durch KI-basierte Fußgängererkennung. Das muss jedoch für den Einsatz im Straßenverkehr nachweisbar sein“, sagt der stellvertretende Konsortialführer Dr. Michael Mock vom Fraunhofer IAIS, der die wissenschaftliche Koordination des Projekts leitet.

Das Ziel: Ein Industriekonsens zur Absicherung von KI-Funktionsmodulen

Das Konsortium verfolgt das Ziel, eine stringente und nachweisbare Argumentationskette für die Absicherung und Freigabe von KI-Funktionsmodulen im Kontext des hochautomatisierten Fahrens aufzubauen. Dafür wird im Projekt eine Prozesskette mit offenen standardisierten Schnittstellen zur Erzeugung hochwertiger und reproduzierbarer synthetischer Trainings- und Testdatensätze erzeugt. Weiterhin werden KI-Algorithmen zur Fußgängererkennung programmiert und vorwiegend mit diesen erzeugten synthetischen Daten trainiert und getestet. Dadurch können beispielhaft Methoden und Maßnahmen entwickelt werden, die dazu geeignet sind, die Argumentationskette zur prinzipiellen Absicherung mit messbaren Leistungs- und Sicherheitsmaßen für KI-Funktionsmodule zu untermauern. Mit Hilfe der im Projekt gewonnenen Erkenntnisse soll im Dialog mit Standardisierungsgremien und Zertifizierungsstellen die Grundlage für einen Industriekonsens zur Absicherung solcher KI-Funktionsmodule gelegt werden.

Im Projekt KI-Absicherung arbeiten führende Experten aus Industrie und Wissenschaft aus bisher weitgehend unabhängig voneinander agierenden Fachrichtungen der KI-Algorithmen, der 3D-Visualisierung und Animation sowie der funktionalen Sicherheit zum ersten Mal zusammen. Bis Juni 2022 werden sie gemeinsam Lösungen erarbeiten, um KI-Funktionsmodule gezielter beobachten, bewerten, prüfen und entsprechend zuverlässig und transparent absichern zu können.

Das Verbundprojekt wird im Rahmen der Leitinitiative „Autonomes und vernetztes Fahren“ des Verbandes der Deutschen Automobilindustrie (VDA) durchgeführt und ist Teil der KI-Strategie der Bundesregierung, die den Standort Deutschland langfristig für die neuen Schlüsseltechnologien aufstellen und u.a. die Marktführerschaft der deutschen Automobilindustrie im Hinblick auf das automatisierte Fahren nachhaltig sichern soll. Das Projekt wird vom Bundeswirtschaftsministerium mit 19,2 Millionen Euro gefördert.