MuDDi
Multi-modal Deepfake Detection: KI-basierte forensische Analyse manipulierter Medien
Start: 11.2024
Ende: 05.2025
Das Projekt zeigt, wie fortschrittliche rechnergestützte Methoden die Überprüfung digitaler Medien unterstützen und die Integrität visueller Informationen schützen können. MuDDi ist ein digitales Forensik-Tool zur Analyse und Erkennung manipulierten Inhalts in Videos und Bildern. Durch den Einsatz modernster KI-Technologien identifiziert MuDDi Deepfakes und liefert belastbare Bewertungen zur Authentizität von Medien.
Ziel von MuDDi ist die Entwicklung robuster, multimodaler Ansätze zur Erkennung von Medienmanipulationen, die Methoden aus Computer Vision, Signalverarbeitung und künstlicher Intelligenz kombinieren. Das System analysiert Mikrobewegungen der Haut mittels Videoplethysmographie (VPG), um in manipulierten Videos fehlende oder unnatürliche Pulswellen zu erkennen. Gleichzeitig kommen fortschrittliche bildforensische Verfahren und unsichtbare Wasserzeichenanalysen zum Einsatz, um Manipulationen in hochauflösenden Medien zu identifizieren. Ergänzend liefern KI-basierte Gutachter, die auf großen Sprachmodellen beruhen, Bewertungen zur Authentizität der Medien und unterstützen so die menschliche Expertise.
MuDDi ist für den professionellen Einsatz in der digitalen Forensik, der Faktenprüfung und der Strafverfolgung konzipiert. Es unterstützt Medienorganisationen und Faktenchecker bei der Verifizierung von Video- und Bildinhalten, hilft Sicherheitsbehörden bei der Sammlung und Analyse digitaler Beweismittel und unterstützt Technologieunternehmen sowie Plattformbetreiber bei der Bekämpfung von Desinformation. Die Technologie wurde bereits in realen Anwendungsszenarien eingesetzt, beispielsweise im CORRECTIV Faktenforum, einer Beteiligungsplattform, auf der Bürgerinnen und Experten gemeinsam manipulierte Inhalte und Fehlinformationen identifizieren können.
Das Projekt MuDDi wird vom House of Participation (HoP) am FZI geleitet, dem Kompetenzzentrum des FZI für digitale Beteiligung und digitale Demokratie. FZI und HoP sorgen dafür, dass MuDDi die Lücke zwischen fortschrittlicher KI-Forschung und praxisnahen, vertrauenswürdigen forensischen Anwendungen schließt und damit einen Beitrag zur Stärkung digitaler Beteiligung, demokratischer Prozesse und der Medienintegrität leistet.
