Das FZI Forschungszentrum Informatik verfolgt innerhalb des Projekts das Ziel, bestehende anwendungsorientierte Forschung in den Bereichen Interactive Machine Learning und Explainable AI zu intensivieren und mit grundlagennaher Forschung auszubauen. Dabei ist die beteiligte Forschungsgruppe insbesondere am Einbezug des menschlichen Anwenders und Zugänglichmachung der KI-Anwendung durch geeignete Feedback-Systeme interessiert. Während es bereits erste Ansätze zur Erklärung von KI-Algorithmen gibt, sind deren Erklärungen bisher auf KI-Experten ausgelegt, sodass KI-Engineers Optimierungen an den KI-Anwendungen vornehmen können. Im Rahmen des Projekts soll dies auf Domänenexperten erweitert werden.