MuDDi
Multi-modal Deepfake Detection: KI-basierte forensische Analyse manipulierter Medien
Start: 11.2024
Ende: 05.2025
Das Projekt zeigt, wie fortschrittliche rechnergestützte Methoden die Überprüfung digitaler Medien unterstützen und die Integrität visueller Informationen schützen können. MuDDi ist ein digitales Forensik-Tool zur Analyse und Erkennung manipulierten Inhalts in Videos und Bildern. Durch den Einsatz modernster KI-Technologien identifiziert MuDDi Deepfakes und liefert belastbare Bewertungen zur Authentizität von Medien.
Ziel von MuDDi ist die Entwicklung robuster, multimodaler Ansätze zur Erkennung von Medienmanipulationen, die Methoden aus Computer Vision, Signalverarbeitung und künstlicher Intelligenz kombinieren. Das System analysiert Mikrobewegungen der Haut mittels Videoplethysmographie (VPG), um in manipulierten Videos fehlende oder unnatürliche Pulswellen zu erkennen. Gleichzeitig kommen fortschrittliche bildforensische Verfahren und unsichtbare Wasserzeichenanalysen zum Einsatz, um Manipulationen in hochauflösenden Medien zu identifizieren. Ergänzend liefern KI-basierte Gutachter, die auf großen Sprachmodellen beruhen, Bewertungen zur Authentizität der Medien und unterstützen so die menschliche Expertise.
MuDDi ist für den professionellen Einsatz in der digitalen Forensik, der Faktenprüfung und der Strafverfolgung konzipiert. Es unterstützt Medienorganisationen und Faktenchecker bei der Verifizierung von Video- und Bildinhalten, hilft Sicherheitsbehörden bei der Sammlung und Analyse digitaler Beweismittel und unterstützt Technologieunternehmen sowie Plattformbetreiber bei der Bekämpfung von Desinformation. Die Technologie wurde bereits in realen Anwendungsszenarien eingesetzt, beispielsweise im CORRECTIV Faktenforum, einer Beteiligungsplattform, auf der Bürgerinnen und Experten gemeinsam manipulierte Inhalte und Fehlinformationen identifizieren können.
Das Projekt MuDDi wird vom House of Participation (HoP) am FZI geleitet, dem Kompetenzzentrum des FZI für digitale Beteiligung und digitale Demokratie. FZI und HoP sorgen dafür, dass MuDDi die Lücke zwischen fortschrittlicher KI-Forschung und praxisnahen, vertrauenswürdigen forensischen Anwendungen schließt und damit einen Beitrag zur Stärkung digitaler Beteiligung, demokratischer Prozesse und der Medienintegrität leistet.
Applied Artificial Intelligence
Das Hauptaugenmerk des FZI in diesem Forschungsschwerpunkt liegt auf der praxisnahen Erforschung der Schlüsseltechnologie Künstliche Intelligenz (KI). Innovative KI-Lösungen werden entwickelt und für unserer Partner und Kunden in Anwendungsbereiche wie Mobilität, Robotik, Gesundheitstechnik, Logistik, Produktion sowie Ver- und Entsorgung transferiert.
Digital Democracy and Participation
Im Mittelpunkt des Forschungsschwerpunkts Digital Democracy and Participation stehen inklusive, moderne und demokratische Formen digitaler Teilhabe sowie die Chancen und Herausforderungen der digitalen Demokratie.
