DeFaktS

Desinformationskampagnen, bei denen irreführende Informationen gezielt im großen Stil verbreitet werden, sind eine zentrale Bedrohung für den politischen Prozess und gesellschaftlichen Zusammenhalt geworden. Sie können Wahlen beeinflussen und Menschen zu (selbst-)schädigendem oder gar terroristischem Verhalten verleiten. Neben politischer Lagerbildung und Meinungspolarisierung leisten sie auch anderen gesellschaftsschädlichen Phänomenen Vorschub, wie beispielsweise Verschwörungstheorien.

Das vom Bundesministerium für Bildung und Forschung (BMBF) geförderte Projekt DeFaktS verfolgt einen umfassenden Ansatz zur Erforschung und Bekämpfung von Desinformation. Zu diesem Zweck wird auf der Basis von extrahierten Nachrichten aus verdächtigen Social-Media- und Messenger-Gruppen eine Künstliche Intelligenz (KI) trainiert, die für Desinformationen charakteristische Faktoren und Stilmittel erkennen kann. Die derart trainierte KI bildet im Anschluss eine Komponente für eine XAI (Explainable Artificial Intelligence), mit Hilfe derer eine App Nutzer*innen von Online-Angeboten transparent über das mögliche Auftreten von Desinformationen informieren und warnen soll.

Ein weiteres Ziel von DeFaktS ist es, die XAI-Komponente über die Entwicklung einer Programmierschnittstelle auch für Dritte zugänglich zu machen und somit zu einer Lösung beizutragen, mit der sich Onlineplattformen möglichst automatisiert moderieren lassen.

Während der Projektlaufzeit von Januar 2022 bis Dezember 2024 leitet das FZI Forschungszentrum Informatik das Konsortium mit den Projektpartnern Murmuras UG, Liquid Democracy e.V. und der Philipps-Universität Marburg.