LLMM - Large Language Media Manipulator.

Projektlaufzeit: 01.05.2023 bis laufend.

Was?

LLMM bezeichnet das Forschungsprojekt Large Language Media Manipulator. Das Projekt befasst sich mit der Manipulation von Informationen durch Sprachmodelle. Der LLMM-Demonstrator verfolgt dabei zwei Absichten: Zum einen soll die Technologie von Sprachmodellen verständlich erklärt werden und zum anderen soll das Bewusstsein dafür geschärft werden, wie einfach es ist, die menschliche Wahrnehmung durch Informationsmanipulation zu beeinflussen.

Warum?

Die Verbreitung von Desinformation nimmt auf Social-Media-Kanälen und anderen Online-Nachrichtenportalen zu. Dabei werden die bearbeiteten Beiträge zunehmend komplexer und erschweren die Erkennung als Desinformation. Die aktuelle Entwicklung stellt eine zentrale Bedrohung für die demokratische Grundordnung sowie den gesellschaftlichen Zusammenhalt dar, da diese Inhalte zunehmend Verwendung finden zur Polarisierung und Radikalisierung der Gesellschaft.

Der Einsatz des Demonstrators zielt darauf ab, Nutzer*innen dazu befähigen, Informationen kritisch zu hinterfragen und verwendete Quellen zu überprüfen. Das Verständnis für Informationsmanipulation ist eine wesentliche Voraussetzung dafür, dass Bürger*innen in der Lage sind, fundierte Entscheidungen zu treffen, ohne diese auf Desinformationen zu basieren. Dies fördert nachhaltig die Integrität und Resilienz demokratischer Systeme.

Wie?

Ein Sprachmodell kann beispielsweise den Stil eines Artikels oder dessen politische Sichtweise verändern. Die Modifikation eines zuvor neutralen Artikels durch wenige sprachliche Anpassungen kann dazu führen, dass der Standpunkt einer politischen Partei oder Gruppierung widergespiegelt wird und die Wahrnehmung der Leserschaft beeinflusst wird. Solche Bearbeitungsschritte können mithilfe des LLMM-Demonstrators simuliert werden, um Nutzer*innen zu verdeutlichen, wie leicht Informationen manipuliert werden können, um bestimmte politische Ziele zu fördern.

Ansprechpartner: Prof. Dr. Achim Rettinger und Dr. Jonas Fegert

Publikationen: In Arbeit

Projektwebsite FZI Forschungszentrum Informatik