SAFE AI ENGINEERING
AI engineering ensures safety of AI components for autonomous, connected driving
DeFaktS
Desinformationskampagnen beheben durch Offenlegung der Faktoren und Stilmittel
Start: 01.2022
Ende: 06.2025
Desinformationskampagnen, bei denen irreführende Informationen gezielt im großen Stil verbreitet werden, sind eine zentrale Bedrohung für den politischen Prozess und gesellschaftlichen Zusammenhalt geworden. Sie können Wahlen beeinflussen und Menschen zu (selbst-)schädigendem oder gar terroristischem Verhalten verleiten. Neben politischer Lagerbildung und Meinungspolarisierung leisten sie auch anderen gesellschaftsschädlichen Phänomenen Vorschub, wie beispielsweise Verschwörungstheorien.
Das vom Bundesministerium für Bildung und Forschung (BMBF) geförderte Projekt DeFaktS verfolgt einen umfassenden Ansatz zur Erforschung und Bekämpfung von Desinformation. Zu diesem Zweck wird auf der Basis von extrahierten Nachrichten aus verdächtigen Social-Media- und Messenger-Gruppen eine Künstliche Intelligenz (KI) trainiert, die für Desinformationen charakteristische Faktoren und Stilmittel erkennen kann. Die derart trainierte KI bildet im Anschluss eine Komponente für eine XAI (Explainable Artificial Intelligence), mit Hilfe derer eine App Nutzer*innen von Online-Angeboten transparent über das mögliche Auftreten von Desinformationen informieren und warnen soll.
Ein weiteres Ziel von DeFaktS ist es, die XAI-Komponente über die Entwicklung einer Programmierschnittstelle auch für Dritte zugänglich zu machen und somit zu einer Lösung beizutragen, mit der sich Onlineplattformen möglichst automatisiert moderieren lassen.
Während der Projektlaufzeit von Januar 2022 bis Dezember 2024 leitet das FZI Forschungszentrum Informatik das Konsortium mit den Projektpartnern Murmuras UG, Liquid Democracy e.V. und der Philipps-Universität Marburg.
Ansprechperson
Jonas Fegert
Leiter House of Participation
Bereich: Information Process Engineering
- +49 30 7017337-338
- fegert@fzi.de
- Außenstelle Berlin
Forschungsschwerpunkt
Digital Democracy and Participation
The research focus Digital Democracy and Participation addresses inclusive, modern, and democratic forms of digital participation as well as the opportunities and challenges of digital democracy.
Applied Artificial Intelligence
In this research focus, the FZI concentrates on practical research into the key technology of Artificial Intelligence (AI). Innovative AI solutions are developed and transferred to application areas such as mobility, robotics, healthcare technology, logistics, production, and supply and disposal on behalf of our partners and customers.
Förderhinweis:
Das Projekt DeFaktS wird vom Bundesministerium für Forschung, Technologie und Raumfahrt gefördert.
Projektpartner:
Weitere Projekte
SouveMed
Data trustee model protects use of individual health data in research
OKTI
AI-based software detects and corrects motion artifacts in OCT images.
SIQAS
Thanks to the measurement of social interaction, psychological stress caused by loneliness can be detected at an earlier stage
ALLIANZ
Digital platform for dementia prevention helps address the lack of exercise
BeACTIVE
More exercise in everyday life: Self-learning real-time system recognizes behavior patterns and recommends customized activities
RISE
AI assistant serves as first point of contact for legal questions
MAD Urban
AI engineering empowering security reasoning throughout the entire lifecycle of an AI function
SDI4ECom
Secure and self-determined digital identities in e-commerce
CaMinoBW
Co-design for application-specific microelectronics with innovative chiplets in Baden-Württemberg