IDZ Jena: toneshift – Netzwerk gegen Hass im Netz und Desinformation

toneshift – Netzwerk gegen Hass im Netz und Desinformation

Projektbeschreibung

"toneshift – Netzwerk gegen Hass im Netz und Desinformation" ist ein im Aufbau befindlicher bundesweiter Kooperationsverbund, der zivilgesellschaftliche und wissenschaftliche Expertise zu digitalem Hass und Desinformation bündelt. Im Rahmen des Netzwerks beschäftigt sich das Institut für Demokratie und Zivilgesellschaft IDZ (in Trägerschaft von Civic Research and Innovation gGmbh CRI) in einem dort angesiedelten Teilprojekt datenbasiert mit neuen Trends und Dynamiken in der Verbreitung von digitalem Hass und digitalen Einflusskampagnen und deren gesellschaftlicher Wirkung. Eine Besonderheit der untersuchten Phänomene ist, dass digitale Infrastrukturen und digitalpolitische Rahmenbedingungen sie jeweils erst ermöglichen. Gleichzeitig hängen staatliche und zivilgesellschaftliche Möglichkeiten, auf Hass im Netz und Desinformation einzuwirken, von einer globalen Plattformökonomie ab. Damit sind Herausforderungen verbunden, die eine transdisziplinäre Herangehensweise notwendig machen. Ein intersektorales Netzwerk aus Zivilgesellschaft und Wissenschaft ermöglicht es, neue Entwicklungen frühzeitig zu erkennen, Wissen zu generieren und praxisnah zu vermitteln. So können innovative Ansätze entstehen, um digitalen Hass und Desinformation nachhaltig zu adressieren.

Projektziele

Das IDZ erarbeitet einen Überblick zu laufenden Projekten und Forschungsständen zu den Themen digitaler Hass, Desinformation und die Rolle Künstlicher Intelligenz, bereitet ihn ansprechend auf und macht ihn für zivilgesellschaftliche Akteure nutzbar. Im Rahmen des Projekts kommen maschinelle Methoden zur Datenanalyse zum Einsatz. Das Team entwickelt Prototypen für den zivilgesellschaftlichen Einsatz von KI im Themenfeld und unterstützt bestehende Projekte mit Daten und Expertisen. Neben Beiträgen in internationalen Fachzeitschriften soll die von Mitgliedern des Projektteams herausgegebene Open-Access-Fachzeitschrift Machine Against the Rage ein wichtiger Debattenort und das zentrale Publikationsformat des Projekts sein.

Forschungsverbund - toneshift

Neben dem Institut für Demokratie und Zivilgesellschaft IDZ (in Teilträgerschaft von Civic Research and Innovation gGmbh CRI) sind fünf weitere Partner*innen Teil des Verbunds: Die Koordinierung ist bei Das NETTZ, der in Berlin ansässigen Vernetzungsstelle gegen Hate Speech, angesiedelt. Zum Verbund gehören weiterhin die Gesellschaft für Medienpädagogik und Kommunikationskultur, HateAid, Meldestelle Respect! (in Trägerschaft der Jugendstiftung Baden-Württemberg) und die Neuen deutsche Medienmacher*innen.

→ Zur Website des Forschungsverbundes "toneshift"

Förderkontext

Der Kooperationsverbund wird vom Bundesministerium für Bildung, Familie, Senioren, Frauen und Jugend im Rahmen des Bundesprogramms „Demokratie leben!“ im Programmbereich "Entwicklung einer bundeszentralen Infrastruktur". Seit vielen Jahren fördert der Bund mit dem Bundesprogramm „Demokratie leben!“ die Demokratie- und Präventionsarbeit in Deutschland. Die vergangene Förderperiode des Bundesprogramms endete am 31. Dezember 2024. Für die dritte Förderperiode (2025 bis 2032) wurde das Bundesprogramm weiterentwickelt. In einem Programmbereich „Entwicklung einer bundeszentralen Infrastruktur“ wird die weitere Professionalisierung und engere Kooperation von zivilgesellschaftlichen Organisationen in verschiedenen Themen- bzw. Praxisfeldern unterstützt. Das soll mittels der Förderung von Kooperationsverbünden sowie Fachorganisationen erfolgen.

Projektlaufzeit

1/1/2025-31/12/2032

Das Jenaer Team von toneshift – Netzwerk gegen Hass im Netz und Desinformation

MACHINE AGAINST THE RAGE: Online-Magazin für digitale Konfliktforschung

Wie sich Radikalisierungs- und auch Polarisierungsprozesse vollziehen, ist heute ohne die Mechanismen digitaler Plattformen nicht mehr erklärbar. Mit Machine Against the Rage (MATR) bieten wir ein wissenschaftliches Format, das sich speziell diesem Problemfeld widmet. Insbesondere in den Blick nehmen wir Phänomene, die unter den Begriffen »Hass« und »Desinformation« diskutiert werden. Dabei untersuchen wir digitale Konflikte mit digitalen Mitteln: Maschinendaten genannt.Wir setzen auf eine Kombination aus Data Science, (diskursiver) Netzwerkanalyse und sozialwissenschaftlicher Forschung. Dies erlaubt uns, Trends in den Beziehungen von relevanten Online-Akteuren und die (Interaktions-)Muster digitaler Kommunikation zu analysieren. Außerdem steht MATR für eine kritische Netz- und Sozialanalyse: Wir begreifen »Hass« und »Desinformation« als umkämpfte Begriffe und ihre (netz-)politische Anwendung auch als Gegenstand der digitalen Konflikte. Das Team besteht aus Daten- und SozialwissenschaftlerInnen, die über Expertise zu Polarisierung und Radikalisierung verfügen – v.a. mit Blick auf Rechtsextremismus, Islamismus, Linksradikalismus – und diese mit netzwerkanalytischem und techsoziologischem Knowhow verbinden. Unterstützt werden wir von einem wissenschaftlichen Beirat, der bei der Projektausrichtung hilft und zur Qualitätssicherung beiträgt. Neben dem halbjährlich erscheinenden Magazin veröffentlichen wir Analysen auch auf einem Blog.