Ziel des Projekts ist die Entwicklung eines KI-gestützten Assistenzsystems, das Desinformation sprachübergreifend erkennen, analysieren und für den Faktencheck aufbereiten kann. Bestehende KI-Modelle und Analyseverfahren konzentrieren sich überwiegend auf englischsprachige Inhalte und erfassen kulturell codierte Narrative häufig nur eingeschränkt. kuKI adressiert diese Forschungslücke durch die Entwicklung eines kulturalisierungssensiblen Sprachmodells, das sprachliche Nuancen, historische Bezüge und gesellschaftliche Kontexte in die Analyse einbezieht.
Im Projekt werden Methoden des maschinellen Lernens mit Ansätzen aus Sozialforschung und Journalismus kombiniert. Ein zentraler Bestandteil ist die Untersuchung plattform- und sprachübergreifender Desinformationsdynamiken auf sozialen Netzwerken und Messenger-Diensten wie Telegram, YouTube und TikTok. Hierfür erweitert das Center für Monitoring, Analyse und Strategie (CeMAS) bestehende Monitoringsysteme um russisch- und türkischsprachige Kommunikationsräume, um narrative Muster, Akteursnetzwerke und Verbreitungsmechanismen systematisch analysieren zu können.
Die im Projekt entwickelten Technologien werden in das CORRECTIV.Faktenforum integriert. Die Plattform ermöglicht Bürgerinnen und Bürgern die kollaborative Recherche potenzieller Falschinformationen gemeinsam mit Journalistinnen und Journalisten. Durch automatisierte Übersetzungs- und Analysefunktionen soll der Faktencheck künftig mehrsprachig unterstützt und der Austausch zwischen unterschiedlichen Sprachgemeinschaften erleichtert werden.
Ein weiterer Schwerpunkt des Projekts liegt auf der partizipativen Einbindung der betroffenen Communitys. Vertreterinnen und Vertreter russisch- und türkischsprachiger Öffentlichkeiten werden aktiv in die Entwicklung und Evaluation der Systeme eingebunden, um kulturelle Perspektiven frühzeitig zu berücksichtigen und die gesellschaftliche Anschlussfähigkeit der entwickelten Methoden zu stärken.
kuKI verfolgt einen Open-Science-Ansatz: Methodische Grundlagen, Datensätze und Analyseverfahren sollen – soweit möglich – transparent dokumentiert und zugänglich gemacht werden, um die Übertragbarkeit auf weitere Sprachräume und Anwendungsfelder zu unterstützen. Ziel des Projekts ist es, neue wissenschaftliche und technologische Grundlagen für den Umgang mit Desinformation in einer zunehmend mehrsprachigen digitalen Gesellschaft zu schaffen.
Beitragsbild: CORRECTIV, Ivo Mayr
Das FZI bringt insbesondere seine Erfahrung in den Bereichen digitale Demokratie, Plattformforschung und KI-gestützter Desinformationserkennung ein. Dazu gehören Beiträge zur Analyse von Online-Diskursen, zur Bewertung von Plattformmechanismen sowie zur Entwicklung von Formaten für gesellschaftlichen Dialog und Wissenstransfer.
Das FZI verantwortet im Projekt insbesondere die Anforderungsanalyse für die Plattformentwicklung, die Weiterentwicklung einer Taxonomie zur Klassifikation von Desinformation in Richtung multilingualer und kulturalisierungssensibler Analyseverfahren, sowie die technische Umsetzung eines Medienstromannotators. Darüber hinaus unterstützt das FZI die Entwicklung der crosslingualen Analyse-Pipeline, den Aufbau eines Desinformationswissensgraphen sowie die Konzeption eines Alerting-Systems. Es übernimmt zudem Aufgaben der empirischen Evaluation, der methodischen Validierung und statistischen Datenanalyse.
KI aus der Forschung in die Praxis: Wir treiben angewandte KI für Wirtschaft und Mittelstand voran und verbinden dabei Technologie mit Recht und Ethik.
Mit Expertise in angewandter KI, Computational Social Science und Medizintechnik schaffen wir Lösungen für Politik, Wirtschaft und Zivilgesellschaft.
