Forschungsprojekte

DeFaktS

Desinformationskampagnen beheben durch Offenlegung der Faktoren und Stilmittel

Start: 01.2022

Ende: 12.2024

Desinformationskampagnen, bei denen irreführende Informationen gezielt im großen Stil verbreitet werden, sind eine zentrale Bedrohung für den politischen Prozess und gesellschaftlichen Zusammenhalt geworden. Sie können Wahlen beeinflussen und Menschen zu (selbst-)schädigendem oder gar terroristischem Verhalten verleiten. Neben politischer Lagerbildung und Meinungspolarisierung leisten sie auch anderen gesellschaftsschädlichen Phänomenen Vorschub, wie beispielsweise Verschwörungstheorien.

Das vom Bundesministerium für Bildung und Forschung (BMBF) geförderte Projekt DeFaktS verfolgt einen umfassenden Ansatz zur Erforschung und Bekämpfung von Desinformation. Zu diesem Zweck wird auf der Basis von extrahierten Nachrichten aus verdächtigen Social-Media- und Messenger-Gruppen eine Künstliche Intelligenz (KI) trainiert, die für Desinformationen charakteristische Faktoren und Stilmittel erkennen kann. Die derart trainierte KI bildet im Anschluss eine Komponente für eine XAI (Explainable Artificial Intelligence), mit Hilfe derer eine App Nutzer*innen von Online-Angeboten transparent über das mögliche Auftreten von Desinformationen informieren und warnen soll.

Ein weiteres Ziel von DeFaktS ist es, die XAI-Komponente über die Entwicklung einer Programmierschnittstelle auch für Dritte zugänglich zu machen und somit zu einer Lösung beizutragen, mit der sich Onlineplattformen möglichst automatisiert moderieren lassen.

Während der Projektlaufzeit von Januar 2022 bis Dezember 2024 leitet das FZI Forschungszentrum Informatik das Konsortium mit den Projektpartnern Murmuras UG, Liquid Democracy e.V. und der Philipps-Universität Marburg.

Ansprechperson

Jonas Fegert

Abteilungsleitung

Bereich: Information Process Engineering

Forschungsschwerpunkt

Digital Participation and Democracy

Im Mittelpunkt des Forschungsschwerpunkts Digital Participation and Democracy stehen inklusive, moderne und demokratische Formen digitaler Teilhabe sowie die Chancen und Herausforderungen der digitalen Demokratie

Applied Artificial Intelligence

In diesem Forschungsschwerpunkt liegt das Hauptaugenmerk für das FZI auf den Themen Künstliche Intelligenz (KI) und Mensch und KI-Engineering. Zudem beschäftigt sich das FZI mit Fragestellungen zu dedizierter Hardware für KI sowie KI zur Prädiktion.