IDZ Jena: toneshift – Netzwerk gegen Hass im Netz und Desinformation

toneshift – Netzwerk gegen Hass im Netz und Desinformation

Projektbeschreibung

"toneshift – Netzwerk gegen Hass im Netz und Desinformation" ist ein im Aufbau befindlicher bundesweiter Kooperationsverbund, der zivilgesellschaftliche und wissenschaftliche Expertise zu digitalem Hass und Desinformation bündelt. Im Rahmen des Netzwerks beschäftigt sich das Institut für Demokratie und Zivilgesellschaft IDZ (in Trägerschaft von Civic Research and Innovation gGmbh CRI) in einem dort angesiedelten Teilprojekt datenbasiert mit neuen Trends und Dynamiken in der Verbreitung von digitalem Hass und digitalen Einflusskampagnen und deren gesellschaftlicher Wirkung. Eine Besonderheit der untersuchten Phänomene ist, dass digitale Infrastrukturen und digitalpolitische Rahmenbedingungen sie jeweils erst ermöglichen. Gleichzeitig hängen staatliche und zivilgesellschaftliche Möglichkeiten, auf Hass im Netz und Desinformation einzuwirken, von einer globalen Plattformökonomie ab. Damit sind Herausforderungen verbunden, die eine transdisziplinäre Herangehensweise notwendig machen. Ein intersektorales Netzwerk aus Zivilgesellschaft und Wissenschaft ermöglicht es, neue Entwicklungen frühzeitig zu erkennen, Wissen zu generieren und praxisnah zu vermitteln. So können innovative Ansätze entstehen, um digitalen Hass und Desinformation nachhaltig zu adressieren.

Projektziele

Das IDZ erarbeitet einen Überblick zu laufenden Projekten und Forschungsständen zu den Themen digitaler Hass, Desinformation und die Rolle Künstlicher Intelligenz, bereitet ihn ansprechend auf und macht ihn für zivilgesellschaftliche Akteure nutzbar. Im Rahmen des Projekts kommen maschinelle Methoden zur Datenanalyse zum Einsatz. Das Team entwickelt Prototypen für den zivilgesellschaftlichen Einsatz von KI im Themenfeld und unterstützt bestehende Projekte mit Daten und Expertisen. Neben Beiträgen in internationalen Fachzeitschriften soll die von Mitgliedern des Projektteams herausgegebene Open-Access-Fachzeitschrift Machine Against the Rage ein wichtiger Debattenort und das zentrale Publikationsformat des Projekts sein.

Forschungsverbund - toneshift

Neben dem Institut für Demokratie und Zivilgesellschaft IDZ (in Teilträgerschaft von Civic Research and Innovation gGmbh CRI) sind fünf weitere Partner*innen Teil des Verbunds: Die Koordinierung ist bei Das NETTZ, der in Berlin ansässigen Vernetzungsstelle gegen Hate Speech, angesiedelt. Zum Verbund gehören weiterhin die Gesellschaft für Medienpädagogik und Kommunikationskultur, HateAid, Meldestelle Respect! (in Trägerschaft der Jugendstiftung Baden-Württemberg) und die Neuen deutsche Medienmacher*innen.

→ Zur Website des Forschungsverbundes "toneshift"

Förderkontext

Der Kooperationsverbund wird vom Bundesministerium für Bildung, Familie, Senioren, Frauen und Jugend im Rahmen des Bundesprogramms „Demokratie leben!“ im Programmbereich "Entwicklung einer bundeszentralen Infrastruktur". Seit vielen Jahren fördert der Bund mit dem Bundesprogramm „Demokratie leben!“ die Demokratie- und Präventionsarbeit in Deutschland. Die vergangene Förderperiode des Bundesprogramms endete am 31. Dezember 2024. Für die dritte Förderperiode (2025 bis 2032) wurde das Bundesprogramm weiterentwickelt. In einem Programmbereich „Entwicklung einer bundeszentralen Infrastruktur“ wird die weitere Professionalisierung und engere Kooperation von zivilgesellschaftlichen Organisationen in verschiedenen Themen- bzw. Praxisfeldern unterstützt. Das soll mittels der Förderung von Kooperationsverbünden sowie Fachorganisationen erfolgen.

Projektlaufzeit

1/1/2025-31/12/2032

Das Jenaer Team von toneshift – Netzwerk gegen Hass im Netz und Desinformation

MACHINE AGAINST THE RAGE: Online-Magazin für digitale Konfliktforschung

Wie sich Radikalisierungs- und auch Polarisierungsprozesse vollziehen, ist heute ohne die Mechanismen digitaler Plattformen nicht mehr erklärbar. Mit Machine Against the Rage (MATR) bieten wir ein wissenschaftliches Format, das sich speziell diesem Problemfeld widmet. Insbesondere in den Blick nehmen wir Phänomene, die unter den Begriffen »Hass« und »Desinformation« diskutiert werden. Dabei untersuchen wir digitale Konflikte mit digitalen Mitteln: Maschinendaten genannt.Wir setzen auf eine Kombination aus Data Science, (diskursiver) Netzwerkanalyse und sozialwissenschaftlicher Forschung. Dies erlaubt uns, Trends in den Beziehungen von relevanten Online-Akteuren und die (Interaktions-)Muster digitaler Kommunikation zu analysieren. Außerdem steht MATR für eine kritische Netz- und Sozialanalyse: Wir begreifen »Hass« und »Desinformation« als umkämpfte Begriffe und ihre (netz-)politische Anwendung auch als Gegenstand der digitalen Konflikte. Das Team besteht aus Daten- und SozialwissenschaftlerInnen, die über Expertise zu Polarisierung und Radikalisierung verfügen – v.a. mit Blick auf Rechtsextremismus, Islamismus, Linksradikalismus – und diese mit netzwerkanalytischem und techsoziologischem Knowhow verbinden. Unterstützt werden wir von einem wissenschaftlichen Beirat, der bei der Projektausrichtung hilft und zur Qualitätssicherung beiträgt. Neben dem halbjährlich erscheinenden Magazin veröffentlichen wir Analysen auch auf einem Blog.

Kontakt

Ann-Kathrin Benner
E-Mail: machine-vs-rage(at)idz-jena.de

Use Cases und Kooperationen

Feedwatch e.V.

Wie sieht es aus, wenn Nachrichten und politische Informationen im Social Media Feed immer stärker personalisiert werden? Der Verein Feedwatch hat eine Bildungs-App entwickelt, die politische Informationsräume erfahr- und vergleichbar macht. Das toneshift-Team half dabei, den Ansatz wissenschaftlich zu fundieren und unterstützte darüber hinaus bei der technischen Umsetzung. Momentan wird der Einsatz der App in der schulischen Medienbildung getestet. Ziel ist es, den reflektierten Nachrichtenkonsum auf Social Media zu fördern.

Zur Website von Feedwatch e.V.

Bildungsstätte Anne Frank

Um die Diffusions- und Verbreitungsdynamiken antisemitischer Onlinekommunikation in pädagogischen Settings möglichst lebensweltnahe zu adressieren, arbeitet das toneshift gemeinsam mit der Bildungsstätte Anne Frank im Rahmen eines Use Cases zu den Möglichkeiten des Einsatzes digitaler Tools in der Präventionsarbeit gegen Online-Antisemitismus. So wird ein Prototyp entwickelt, der es Jugendlichen ermöglichen, in Workshopformaten sich mit ihrem eigenen digitalen Nutzungsverhalten kritisch auseinanderzusetzen. Die Konzeption und Entwicklung erfolgt ko-kreativ und in einem kontinuierlichen Abstimmungsprozess. In regelmäßigen gemeinsamen Beratungsterminen werden die zu implementierenden Funktionen sukzessive weiterentwickelt und erprobt.

Zur Website der Bildungsstätte Anne Frank

Break the Fake e.V.

Das toneshift-Team unterstützt den ehrenamtlichen Verein Break the Fake e. V. (Dresden/Sachsen) dabei, ein Workshop-Modul zu künstlicher Intelligenz im Kontext von Desinformation zu entwickeln. Break the Fake hat bereits mehrjährige Erfahrung darin, in praxisnahen und für verschiedene Altersgruppen geeigneten Formaten Kompetenzen im Umgang mit Desinformation zu vermitteln. Aus der Kooperation wird ein eigenständiges Modul aus Folien und Konzept entstehen, das sich einzeln durchführen oder in bestehende Workshops zum Thema Desinformation integrieren lässt. Behandelt werden technische Grundlagen von KI, das Erkennen und Interpretieren von KI-generierten Inhalten sowie der eigene Umgang mit KI etwa als Informationsquelle.

Zur Website von Break the Fake e.V.

elly

Hate Speech ist ein Problem für die Beratungsarbeit der Organisation elly, die Betroffene von digitaler Gewalt berät. Die Arbeit von elly steht vor der Herausforderung, dass es schwer ist, frühzeitig über digitale Hassdynamiken informiert zu sein. Hier kann ein Monitoring Abhilfe leisten, zu deren Grundlage das toneshift Team ein regionales Register aufgesetzt hat, das auf Telegram Daten mit Schwerpunkt auf Thüringen sammelt und bei Bedarf Partnern vor Ort Erkenntnisse bereitgestellt werden können, die die Entwicklung digitaler Hassdynamiken besser nachvollziehbar machen.

Zur Website von elly – Beratungsstelle für Betroffene von Hatespeech in Thüringen