Onlinerassismus als Interaktionscatcher:

Die digitale Transformation hat die Medienlandschaft, den öffentlichen Diskurs und damit auch die Dynamik sozialer Konflikte massiv verändert. In digitalen Netzwerkplattformen wie Facebook oder Twitter („soziale Medien“) bieten Posts verschiedenste Interaktionsmöglichkeiten an, darunter Likes, Shares oder Comments, durch die sozialen Akteure anhand eines Themas oder einer Streitfrage miteinander vernetzt werden. 

Diese Interaktion und Vernetzung wird auch durch technische Gegebenheiten wie die algorithmischen Empfehlungssystemen gesteuert. Aufgrund dessen ist die Kommunikation auf den sogenannten sozialen Medien kein sozialer, sondern ein soziotechnischer Prozess. Es geht also nicht nur um Interaktionen zwischen Menschen, sondern auch um die Modellierung dieser sozialen Interaktion durch technische Systeme. Ein Post wird erst gelikt, wenn er in der Timeline erscheint. Posts, die algorithmisch bevorzugt werden, sind sichtbarer und könnten potenziell mehr Interaktionen auslösen. 

Interaktionen sind zudem keine Frage der Zustimmung. So stellt ein „Wütend-Emoji“ als Reaktion auf einen rassistischen Post auch eine Interaktion dar. Aufgrund der Logik sozialer Medien könnten User*innen rassistischen Inhalten potenziell auch dadurch Sichtbarkeit und Popularität verleihen, indem sie ihre Ablehnung offen kommunizieren.

Obwohl die Logik sozialer Medien intensiv erforscht wird, werden deren Auswirkungen auf die Kommunikation von rassistischen Inhalten nicht konsequent mitgedacht. So erkennt zum Beispiel Matamoros-Fernandez (2017), dass digitale Plattformen symbolischen Rassismus mitgestalten, lotet jedoch – wie viele andere Studien – nicht aus, wie sich das auf die Inhalte, Interaktionsraten und die Vernetzung der Akteure auswirkt (vgl. dazu Sponholz 2021). Die Erforschung des Themas beschränkt sich weitestgehend auf Inhalte oder auf das Soziale, insbesondere auf Folgen für rassifizierte User*innen (Tynes et al. 2018). Viele Studien zum Thema Onlinerassismus, die über die Inhalte hinausgehen, beruhen zudem auf qualitativen Ansätzen, so dass ihre Ergebnisse nicht verallgemeinerbar sind (vgl. Bliuc et al. 2018). 

Das Projekt führt demgegenüber eine quantitative Studie durch, die Inhalt, Interaktionsraten und Akteurs-Vernetzung berücksichtigt und deren Ergebnisse verallgemeinerbar sind. Hierbei sollen die sozialen Indikatoren auch vor dem Hintergrund technischer Entscheidungen bewertet werden. Konkret geht es um die Entscheidung der damaligen Facebook Company (heute Meta), vor allem Posts zu empfehlen, die die meisten „Wütend-Emojis“ generieren.

Das Projekt untersucht, ob und wie sich algorithmische Empfehlungslogiken auf die Form, die Sichtbarkeit, die Popularität und die Verteilung rassistischer Inhalte in sozialen Medien auswirken. 

Ziel des Projektes ist es, auf Basis der Analyse der Interaktionsraten eine methodische Grundlage für eine wiederkehrende und breitere systematische Beobachtung, Beschreibung, Dokumentation und Analyse – also für ein Monitoring – von Onlinerassismus zu entwickeln. Aus dem Projekt sollen zudem empirische Ergebnisse zum Ausmaß rassistischer Inhalte auf den Facebook-Seiten deutscher Parteien und Politiker*innen gewonnen werden.

Das Projekt untersucht Facebook-Posts, die von 2016 bis 2021 auf den Seiten deutscher Politiker*innen, Parteien und rechtsgerichteter Akteure veröffentlicht wurden. Die insgesamt über 188.000 Posts werden sowohl mittels einer manuellen als auch einer automatisierten Inhaltsanalyse analysiert, um rassistische Inhalte zu klassifizieren.  

Nach der Klassifikation werden die Interaktionsraten analysiert, um zu beobachten, wie sich die Interaktionsformen (Anzahl von likes, emoji-Typen, shares, comments) von denen nicht-rassistischer Posts unterscheiden. Zuletzt werden weitere Einflussfaktoren (Postformat, Facebook-Seitenbetreiber*innen u.a.) kontrolliert.

Das Projekt läuft seit Januar 2023. 

Hatespeech: Rassistische Hatespeech (dt. „Hassrede“) ist eine extreme Form von Online-Rassismus, die aus drei Elementen besteht: 1) Beschimpfung, 2) Drohung und c) Anstiftung zu Hass, Diskriminierung, Ausgrenzung oder sogar Gewalt. Eine Anstiftung zur Ausgrenzung ist zum Beispiel ein Post mit dem Text „Sozialwohnungen nur für Deutsche“, der mit einem Foto erkennbar muslimischer Menschen begleitet wird. Oft ist (verdeckte) Hatespeech für die Plattformen, Justiz und User*innen schwer zu erkennen, wenn keine eindeutigen Begriffe wie rassistische Schimpfwörter oder eindeutige Formulierungen wie „sie sollen getötet werden“ verwendet werden. Wenn ein Post keine Beschimpfung, Drohung oder Anstiftung enthält, dann kann er rassistisch sein, ist aber laut Definition keine Hatespeech.