SAFE AI ENGINEERING
Sicherheit von KI-Komponenten für das autonome, vernetzte Fahren dank AI Engineering
Start: 06.2021
Ende: 11.2023
Für die Einführung und Erprobung von autonom agierenden Fahrzeugen müssen Funktionen, Systeme und Dienste zuverlässig zusammenspielen. In der Fahrzeugentwicklung werden bereits frühzeitig durch regelmäßige Überprüfungen Maßnahmen getroffen, um möglichst viele Sicherheitsrisiken abzuwenden. Gerade beim Einsatz von Technologien wie Künstlicher Intelligenz oder vernetztem Fahren können schwer vorhersehbare Schwachstellen und Sicherheitslücken erst im Betrieb aufgedeckt werden.
Ziel des Vorhabens UNCOVER ist es, Verfahren und Werkzeuge zu entwickeln, die solche Sicherheitsvorfälle bei autonomen Fahrfunktionen systematisch und strukturiert erfassen. Dabei werden Erkenntnisse aus den Vorfällen im Fahrbetrieb in die modellbasierte Entwicklung rückgeführt, um danach Konzepte für das Re-Design zu erarbeiten, die die identifizierten Schwachstellen und deren Auswirkungen auf die Fahrzeugarchitektur berücksichtigen. Als Instrument zur Identifikation und Lokalisierung wird eine flexible Monitoring-Plattform entwickelt, die sowohl Standards zur Cybersicherheit als auch datenschutzrechtliche Aspekte berücksichtigt.
Der Ansatz von UNCOVER soll zeigen, dass die Erkennung von Sicherheitsrisiken und die Reaktion darauf durch kontinuierliche Überwachung verkürzt werden kann. Dies ist insbesondere durch eine datenbasierte Auswertung und die Rückführung der Ergebnisse in die Fahrzeugentwicklung möglich.
Die Projektergebnisse sind von hoher Relevanz für die deutsche Automobilindustrie, lassen sich jedoch auch auf andere sicherheitskritische Domänen wie Industrie 4.0, kritische Infrastrukturen oder Medizintechnik übertragen.
Um die sichere Digitalisierung zu ermöglichen, erforscht und vermittelt das FZI in diesem Forschungsschwerpunkt anwendungsnah innovative Konzepte, Methoden zur Absicherung von IT-Systemen sowie rechtliche Rahmenbedingungen.
Förderhinweis:
Das Projekt UNCOVER wird vom Bundesministerium für Bildung und Forschung gefördert.
Projektpartner:
Sicherheit von KI-Komponenten für das autonome, vernetzte Fahren dank AI Engineering
Datentreuhandmodell sichert Nutzung individueller Gesundheitsdaten in der Forschung
KI-basierte Software erkennt und korrigiert Bewegungsartefakte in OCT-Bildern.
Psychische Belastungen durch Einsamkeit dank Messung sozialer Interaktion früher erkennen
Digitale Plattform zur Demenzprävention wirkt Bewegungsmangel entgegen
Mehr Bewegung im Alltag: Selbstlernendes Echtzeitsystem erkennt Verhaltensmuster und empfiehlt maßgeschneiderte Aktivitäten
KI-Assistent hilft als erste Anlaufstelle bei juristischen Fragen
Sicherheitsargumentation befähigendes AI Engineering über den gesamten Lebenszyklus einer KI-Funktion
INteraktive SPrachmodellgestützte Integration und REalzeit-Orchestrierung von Datenpipelines für Klimaschutz und KlimaAnpassung
Sichere und selbstbestimmte Digitale Identitäten im E-Commerce