Die Bekämpfung von Falschinformationen im Netz gilt als eine der größten Herausforderungen unserer Zeit. Politische Propaganda, koordinierte Social-Media-Kampagnen oder KI-generierte Fake News sind oft schwer zu durchschauen. Ein Forschungsprojekt an der Universität Münster hat nun wichtige Fortschritte erzielt: Mit neuen Methoden der Echtzeiterkennung sollen hybride Desinformationskampagnen künftig schneller erkannt und analysiert werden.
Das Verbundprojekt „HybriD“ („Echtzeiterkennung und Nachweis Hybrider Desinformationskampagnen in Online-Medien“) betrachtet Desinformation nicht als einzelne Falschmeldung, sondern als komplexe Gesamterscheinung. Im Fokus steht das Zusammenspiel von Bots, menschlicher Steuerung und KI-Inhalten, die gemeinsam Kampagnen befeuern.
Statt nur Inhalte nachträglich zu prüfen, sollen auffällige zeitliche und strukturelle Muster in Echtzeit sichtbar werden. Damit lässt sich erkennen, wenn Diskussionen künstlich in eine bestimmte Richtung gelenkt werden.
Im Mittelpunkt steht der TextClust-Algorithmus, der Datenströme auswertet und verdächtige Muster aufspürt. Kombiniert mit KI-gestützten Verfahren und der Analyse von Text- und Bildinhalten entsteht ein leistungsfähiges Erkennungssystem. Entscheidend war dabei die Einbindung von Expertinnen und Experten („Human-in-the-Loop“), die die Algorithmen laufend verbesserten.
Die technische Basis bildet eine skalierbare Infrastruktur, die Daten aus Twitter/X, Telegram, Reddit und YouTube erfassen kann. Herzstück ist ein Dashboard, das sowohl Echtzeitanalysen als auch forensische Rückblicke und Annotationen ermöglicht. Damit sind die Ergebnisse nicht nur für die Forschung, sondern auch für Behörden und Medienhäuser nutzbar.
Du liest unsere Nachrichten kostenlos und unabhängig. Hilf mit einem Beitrag deiner Wahl.
Das Projekt identifizierte wiederkehrende Formen von Kampagnen:
Singuläre Bursts – plötzliche Wellen von Posts zu einem Thema
Wiederholte Bursts – koordinierte Stoßwellen über längere Zeit
Kontinuierliche Aktivität – eine dauerhafte, niedrigschwellige Verbreitung
Auch KI-generierte Kampagnen konnten zuverlässig erkannt werden. Simulationsstudien zeigten zudem, dass „Prebunking“ – also frühzeitige Aufklärung – die Verbreitung von Falschinformationen nachweislich abschwächen kann.
Die Ergebnisse sind keine völlige technologische Neuerfindung, sondern ein wichtiger methodischer Fortschritt. Viele Bausteine – etwa Bot-Erkennung oder KI-Analyse – gab es schon, doch ihre Kombination in einer praxisnahen Plattform ist neu. Besonders die Echtzeitanalyse ist ein entscheidender Mehrwert: Kampagnen lassen sich erkennen, während sie laufen – nicht erst, wenn sie ihre Wirkung bereits entfaltet haben.
Für Social-Media-Nutzerinnen und -Nutzer bedeutet dies mehr Transparenz und Sicherheit. Wenn Plattformen und Medien dank solcher Verfahren früher eingreifen, lassen sich manipulative Kampagnen eindämmen, bevor sie massenhaft wirken. Das führt zu einem verlässlicheren Informationsumfeld, weniger Manipulation und stärkt langfristig auch die Medienkompetenz.
Die Ergebnisse sind im Abschlussbericht „Echtzeiterkennung und Nachweis Hybrider Desinformationskampagnen in Online-Medien (HybriD)“ dokumentiert, verfasst von Christian Grimme von der Wirtschaftsinformatik der Universität Münster. Der Bericht ist frei zugänglich über die Technische Informationsbibliothek Hannover.
Die Ergebnisse fanden auch international Beachtung. Präsentiert wurden sie auf renommierten Konferenzen wie:
MISDOOM – Symposium zu Desinformation in Online-Medien
ICWSM – führende Konferenz zu Social Media und KI
HICSS – traditionsreiche IT- und Systemkonferenz auf Hawaii
Damit erreichte das Projekt eine weltweite Fachöffentlichkeit und wurde in den internationalen Forschungsdiskurs eingebettet.
