Social MediaWie Hass-Netzwerke funktionieren und was man gegen sie tun kann

Riesige Netzwerke und untereinander verwobene, globale Cluster: US-Forschende haben herausgefunden, welche Strukturen Hass im Netz hat und wie man ihn am besten bekämpft.

Zuletzt gab es die Debatte wieder nach den Anschlägen von Christchurch, wo sich der Täter auch über soziale Netzwerke radikalisiert hatte. Schnell kam die Forderung, dass die entsprechenden Plattformen etwas dagegen tun müssen. Die Frage ist nur: Was?

Hass-Inhalte in sozialen Medien

Wissenschaftler und Wissenschaftlerinnen mehrerer US-Universitäten haben sich genau angeschaut, wie sich Hass-Inhalte über extreme Gruppen in sozialen Medien verbreiten und wie man sie am besten bekämpfen kann. Darüber berichten sie im Fachmagazin Nature.

Die Forschenden haben ermittelt, dass Social-Media-Plattformen im Prinzip gar nichts dagegen tun können, dass sich Menschen im Netz radikalisieren, weil die Strukturen und Verbindungen untereinander so komplex sind.

Dieser Embed kann leider nur direkt auf der Webseite von Deutschlandfunk Nova angezeigt werden.

Deutschlandfunk-Nova-Reporterin Inga Neubauer hat sich die Studie angeschaut, wonach radikale Netzwerke - wie beispielsweise von Rechtsextremen - aus diversen Untereinheiten bestehen, die die Forschenden Cluster nennen. Das sind zum Beispiel Gruppen im Netz, Foren, oder Seiten.

"Hass im Netz verbreitet sich über riesengroße, weltumspannende, sprachübergreifende und kulturübergreifende Netzwerke."
Inga Neubauer, Deutschlandfunk Nova

Diese Cluster organisieren sich, laut Nature-Bericht, sehr effektiv selbst, sie sorgen auch selbst dafür, dass zum Beispiel Bots enttarnt werden und unliebsame Gegenmeinungen gelöscht werden.

Warum man so schwer dagegen vorgehen kann, liegt daran, dass sich die Cluster selbstständig miteinander verbinden – und zwar über Ländergrenzen, Sprachgrenzen und soziale Netzwerke hinweg.

Cluster fungieren als "Online-Fliegenfallen"

Am Beispiel von Neo-Nazi-Clustern in Europa lässt sich gut erläutern, wie gut diese Cluster vernetzt sind und auch neue Mitglieder anwerben. Laut der Forschenden fungieren sie auch als "Online-Fliegenfalle".

Neo-Nazi-Cluster in Europa haben Mitglieder aus Großbritannien, Kanada, den USA, Australien und Neuseeland. Inhaltlich geht es um Fußball, den Brexit und Skinhead-Mode, aber auch um Black Music. Es kann also schnell passieren, dass Menschen, die sich eigentlich nur für Black Music interessieren, in so ein Netzwerk oder auf so eine Seite kommen und hereingezogen werden - weil ja auch keine gegenteiligen Meinungen dort stattfinden.

Plattform-Betreiber machtlos

Aufgrund der Clusterstruktur haben Social-Media-Plattform-Betreiber nicht viel Handhabe. Da die Netzwerke plattformübergreifend aufgebaut sind, bringt es nichts, einzelne Personen oder Seiten zu blocken.

Strategien zur Bekämpfung des Hasses im Netz

Zur Bekämpfung des Hasses im Netz schlagen die Forschenden deshalb vor, plattformübergreifend anzusetzen. Konkret haben sie drei Strategien:

  1. Den großen Clustern den Nachschub abgraben. Dazu müssten möglichst viele kleinere Hass-Cluster geblockt oder verboten werden.
  2. Einzelne Mitglieder der Netzwerke blockieren und damit die Stabilität der Netzwerke schwächen.
  3. Cluster gezielt gegeneinander ausspielen.