SAFE AI ENGINEERING
Sicherheit von KI-Komponenten für das autonome, vernetzte Fahren dank AI Engineering
SAFE AI ENGINEERING
Sicherheit von KI-Komponenten für das autonome, vernetzte Fahren dank AI Engineering
Start: 03.2025
Ende: 02.2028
Das Projekt Safe AI Engineering befasst sich mit der Gewährleistung der Sicherheit von KI-gesteuerten Komponenten beim automatisierten und vernetzten Fahren.
Das Projekt soll eine kontinuierliche, lebenszyklusweite Sicherheitsmethodik entwickeln, um die Sicherheit in dynamischen Umgebungen zu gewährleisten. Durch die Integration seiner Ergebnisse in etablierte Normen wie ISO 26262 und SOTIF überbrückt das Projekt die Lücke zwischen der KI-Verifizierung und der etablierten Sicherheitsgarantie für die Automobilindustrie.
Das Projekt konzentriert sich auf die kamerabasierte Erkennung von gefährdeten Verkehrsteilnehmern (VRUs), wie zum Beispiel Fußgängern, mit Hilfe von tiefen neuronalen Netzen.
Es werden drei zunehmend komplexe Szenarien definiert – von der Erkennung eines statischen Fußgängers bis zur Handhabung mehrerer dynamischer VRUs in städtischen Umgebungen.
Rolle des FZI
Die inhaltlichen Schwerpunkte des FZI im Projekt liegen auf der Erforschung von Ansätzen zur Erklärbarkeit und Überwachung für KI-basierte Perzeptionsfunktionen.
Insbesondere forscht das FZI im Projekt am Curriculum Learning, das heißt dem gezielten Lernen mit steigender Komplexität, sowie an Redundanzen auf Schichtebene in neuronalen Netzen mithilfe von Mixture-of-Experts Modellen.
Außerdem plant das FZI die Evaluierung und gegebenenfalls Demonstration der Konzepte und Methoden mit dem Versuchsträger CoCarNextGen.
Ansprechperson
Philip Schörner
Abteilungsleiter
Bereich: Intelligent Systems and Production Engineering
- +49 721 9654-358
- schoerner@fzi.de
- Hauptsitz Karlsruhe
Forschungsschwerpunkt
Angewandte Künstliche Intelligenz
KI aus der Forschung in die Praxis: Wir treiben angewandte KI für Wirtschaft und Mittelstand voran und verbinden dabei Technologie mit Recht und Ethik.
Sicherheit und Resilienz
Sicherheit und Resilienz für die digitale Zukunft: Wir stärken mit unserer Forschung Cybersecurity, Safety und Datenschutz für Wirtschaft und Verwaltung
Förderhinweis:
Das Verbundprojekt SAFE AI Engineering wird über das Bundesmininisterium für Wirtschaft und Energie gefördert.
Projektpartner:
Weitere Projekte
SouveMed
Datentreuhandmodell sichert Nutzung individueller Gesundheitsdaten in der Forschung
OKTI
KI-basierte Software erkennt und korrigiert Bewegungsartefakte in OCT-Bildern.
SIQAS
Psychische Belastungen durch Einsamkeit dank Messung sozialer Interaktion früher erkennen
ALLIANZ
Digitale Plattform zur Demenzprävention wirkt Bewegungsmangel entgegen
BeACTIVE
Mehr Bewegung im Alltag: Selbstlernendes Echtzeitsystem erkennt Verhaltensmuster und empfiehlt maßgeschneiderte Aktivitäten
RISE
KI-Assistent hilft als erste Anlaufstelle bei juristischen Fragen
MAD Urban
Sicherheitsargumentation befähigendes AI Engineering über den gesamten Lebenszyklus einer KI-Funktion
INSPIRE-KA
INteraktive SPrachmodellgestützte Integration und REalzeit-Orchestrierung von Datenpipelines für Klimaschutz und KlimaAnpassung
SDI4ECom
Sichere und selbstbestimmte Digitale Identitäten im E-Commerce