Forschungsprojekte

DeFaktS

Desinformationskampagnen beheben durch Offenlegung der Faktoren und Stilmittel

Start: 01.2022

Ende: 06.2025

Desinformationskampagnen, bei denen irreführende Informationen gezielt im großen Stil verbreitet werden, sind eine zentrale Bedrohung für den politischen Prozess und gesellschaftlichen Zusammenhalt geworden. Sie können Wahlen beeinflussen und Menschen zu (selbst-)schädigendem oder gar terroristischem Verhalten verleiten. Neben politischer Lagerbildung und Meinungspolarisierung leisten sie auch anderen gesellschaftsschädlichen Phänomenen Vorschub, wie beispielsweise Verschwörungstheorien.

Das vom Bundesministerium für Bildung und Forschung (BMBF) geförderte Projekt DeFaktS verfolgt einen umfassenden Ansatz zur Erforschung und Bekämpfung von Desinformation. Zu diesem Zweck wird auf der Basis von extrahierten Nachrichten aus verdächtigen Social-Media- und Messenger-Gruppen eine Künstliche Intelligenz (KI) trainiert, die für Desinformationen charakteristische Faktoren und Stilmittel erkennen kann. Die derart trainierte KI bildet im Anschluss eine Komponente für eine XAI (Explainable Artificial Intelligence), mit Hilfe derer eine App Nutzer*innen von Online-Angeboten transparent über das mögliche Auftreten von Desinformationen informieren und warnen soll.

Ein weiteres Ziel von DeFaktS ist es, die XAI-Komponente über die Entwicklung einer Programmierschnittstelle auch für Dritte zugänglich zu machen und somit zu einer Lösung beizutragen, mit der sich Onlineplattformen möglichst automatisiert moderieren lassen.

Während der Projektlaufzeit von Januar 2022 bis Dezember 2024 leitet das FZI Forschungszentrum Informatik das Konsortium mit den Projektpartnern Murmuras UG, Liquid Democracy e.V. und der Philipps-Universität Marburg.

Ansprechperson

Jonas Fegert

Leiter House of Participation

Bereich: Information Process Engineering

Forschungsschwerpunkt

Digital Democracy and Participation

Im Mittelpunkt des Forschungsschwerpunkts Digital Democracy and Participation stehen inklusive, moderne und demokratische Formen digitaler Teilhabe sowie die Chancen und Herausforderungen der digitalen Demokratie.

Applied Artificial Intelligence

Das Hauptaugenmerk des FZI in diesem Forschungsschwerpunkt liegt auf der praxisnahen Erforschung der Schlüsseltechnologie Künstliche Intelligenz (KI). Innovative KI-Lösungen werden entwickelt und für unserer Partner und Kunden in Anwendungsbereiche wie Mobilität, Robotik, Gesundheitstechnik, Logistik, Produktion sowie Ver- und Entsorgung transferiert.