Kampf gegen Täuschung - HoP qualifiziert sich in SPRIND-Innovationswettbewerb
Als eines von 12 Teams qualifiziert sich das House of Participation mit dem Projekt “Multi-modal Deepfake Detection” im SPRIND-Innovationswettbewerb – und erhält bis zu 350.000€ Förderung.
Die Integrität digitaler Medien ist zunehmend durch sogenannte Deepfakes in Gefahr. Hochrealistische, synthetische, KI-generierte Inhalte bergen Risiken für Desinformation, Betrug und Meinungsmanipulation. Der SPRIND-Wettbewerb “Deepfake – Detection and Prevention” nimmt sich dieser Herausforderung an und wird ausgetragen von der Bundesagentur für Sprunginnovationen im Auftrag des Bundesministeriums für Digitales und Verkehr.
Das FZI-Team um Dr. Jonas Fegert, Dr. Steffen Thoma, Prof. Dr. Achim Rettinger und Prof. Dr. Wilhelm Stork konzentriert sich in seinem Ansatz auf eine generalisierbare, umfassende, skalierbare Lösung, die verschiedene Medienformate abdecken soll.
Aktuelle Methoden zur Deepfake-Erkennung halten mit der rasanten technischen Weiterentwicklung der Erstellung synthetischer Inhalte noch nicht mit. Auch Präventionsmechanismen sind unterentwickelt. Das birgt Gefahren, schließlich können manipulierte Bilder und Informationen diskursverzerrenden, disruptiven und anti-demokratischen Einfluss haben.
Für Projektleiter Dr. Jonas Fegert ist das Innovationsprojekt deshalb “einer unserer Beiträge für eine widerstandsfähigere Demokratie und ein neuartiger Ansatz aus unserer Forschung am FZI zu Applied Artificial Intelligence und Digital Democracy and Participation“.
“Multi-modal Deepfake Detection” befindet sich nun in Auswahlstufe 1 des SPRIND-Wettbewerbs und erhält nach Präsentation der Zwischenergebnisse im Mai 2025 Chance auf weitere Förderung.
