Projektlaufzeit: November 2024 – Mai 2025
Was?
MuDDi (Multi-modal Deepfake Detection) ist ein fortschrittliches digitales Forensik-Tool zur Analyse und Erkennung manipulierter Bilder und Videos. Durch den Einsatz modernster KI-Technologien identifiziert MuDDi Deepfakes und bewertet die Authentizität digitaler Medien.
Ob in der Faktenprüfung, der Strafverfolgung oder der digitalen Forensik – MuDDi hilft dabei, Manipulationen aufzudecken und die Integrität des öffentlichen Diskurses zu schützen.
Warum?
Deepfakes sind eine der größten Herausforderungen für Demokratie und Gesellschaft im digitalen Zeitalter. Sie ermöglichen Desinformation in nie dagewesenem Ausmaß, von gefälschten politischen Aussagen bis hin zur Manipulation von Beweismitteln. Besonders in Zeiten zunehmender digitaler Polarisierung können Deepfakes das Vertrauen in Medien, Institutionen und sogar demokratische Wahlen untergraben. Gleichzeitig nimmt die technische Qualität synthetischer Medien kontinuierlich zu, sodass Deepfakes für Nutzer:innen wie auch für professionelle Akteur:innen immer schwerer als solche zu erkennen sind.
MuDDi setzt genau hier an. Mit einer KI-gestützten, multimodalen Analyse bietet es eine robuste Lösung zur Erkennung von Deepfakes für eine faktenbasierte öffentliche Debatte und den Schutz demokratischer Prozesse.
Wie?
MuDDi verfolgt einen multimodalen Ansatz zur Erkennung von Deepfakes in Bild, Video und Sprache. Im Zentrum steht die Kombination forensischer Bildanalyse, videoplethysmographischer Verfahren und KI-gestützter Plausibilitätsbewertungen, mit denen unterschiedliche Ebenen medialer Authentizität systematisch erfasst werden. Während visuelle Manipulationen über die Analyse von Gesichtsmerkmalen und Wasserzeichen identifiziert werden, ermöglichen physiologische Signale und audio-visuelle Konsistenzprüfungen die Erkennung subtiler Unstimmigkeiten in synthetischen Medieninhalten.
Ergänzend prüfen Sprach- und Vision-Language-Modelle die Plausibilität von Inhalten und begleitenden Aussagen im jeweiligen Kontext. Auf dieser Grundlage verarbeitet MuDDi Social-Media-Beiträge automatisiert und überführt die Ergebnisse in strukturierte Analysen.
Die Technologie von MuDDi wird bereits in realen Anwendungsszenarien eingesetzt, etwa in CORRECTIVs Faktenforum, wo Bürger:innen und Expert:innen gemeinsam Desinformation aufdecken
Projektwebsite: MuDDi – Multi Modal Deepfake Detection
Unser Team:
- Dr. Jonas Fegert (Projektleitung, Informationsmanipulation & KI)
- Dr.-Ing. Steffen Thoma(KI, insbesondere NLP)
- Christoph Zimmermann (KI-gestützte Bild- & Videoanalyse)
- Maria Rill (IT-Recht)
- Isabel Bezzaoui (Anforderungsanalyse)
- Prof. Dr. Achim Rettinger (Computational Linguistics & AI)
- Prof. Dr. rer. nat. Wilhelm Stork (Mikrosystemtechnik & Informationstechnologie)
Ansprechpartner: Dr. Jonas Fegert