Laut einer EU-Untersuchung kommt es immer noch zu häufig zu Hasskommentaren auf Plattformen wie X, Tiktok und Instagram. Sie richten sich vor allem gegen Frauen.
Die EU-Agentur für Grundrechte hat herausgefunden, dass Frauen den meisten Hass im Netz abbekommen – und zwar in Form von Beleidigungen über Belästigungen bis hin zu Androhungen von sexueller Gewalt. Aber auch Menschen afrikanischer Herkunft, Roma und Juden und Jüdinnen sind häufig betroffen.
350.000 Kommentare auf Hate Speech überprüft
Das gilt zumindest für die Plattformen, die die EU-Studie zwischen Januar und Juni 2022 genauer unter die Lupe genommen hat. Das waren insgesamt 350.000 Kommentare und Posts auf Youtube, Telegram, Reddit und X – und zwar in den vier Ländern Deutschland, Italien, Bulgarien und Schweden.
Der EU-Bericht kommt zu dem Schluss, dass die Plattformen oft gar nicht genau wissen, was Hassrede eigentlich ist. Vor allem aber erkennen die automatisierten Moderationstools der sozialen Netzwerke oft im Inhalt nicht, wenn es um Hass geht, weil nicht Menschen, sondern Algorithmen überprüfen.
Diese Algorithmen funktionieren laut Studie nicht befriedigend. Bei 1500 Beiträgen, die von Modeartionstools als unbedenklich bewertet wurden, kamen die Forschenden bei über der Hälfte zu dem Schluss, dass es sich hier um Hassrede handelt und dass sie "menschenverachtend" sind.
Besonders viel Hate Speech auf X
Besonders negativ fällt die ehemalige Twitter-Plattform X auf. Dort zeigt sich nach der Übernahme durch Elon Musk eine deutliche Zunahme von Hasspostings. Und das schreckt auch immer mehr Werbekunden ab.
"Das sind mittlerweile so viele, dass viele große Werbekunden wie Disney, Apple, IBM, Coca Cola oder Microsoft der Plattform komplett den Rücken gekehrt haben."
Ein weiteres Problem ist: Wissenschaftlerinnen und Wissenschaftler können oft gar nicht genau benennen, wie groß der Berg von Hasskommentaren ist. Denn sie haben keinen allgemeinen Zugriff auf die Daten der Moderationssysteme der Techplattformen. Denn die Techfirmen betrachten unsere Daten als ihre und als ihr Betriebsgeheimnis.
Das macht es schwer, sich ein umfassendes Bild vom Ausmaß des Hasses im Netz zu machen. Und das wiederum macht es schwer etwas dagegen zu tun.
Forderung: Plattformen sollen Löschalgorithmen überarbeiten
Um die Lage zu verbessern, fordern die Forschenden, dass die Plattformen ihre Löschalgorithmen überarbeiten. Bei Moderation und Überwachung von Inhalten sollen sie besonders auf Merkmale wie Geschlecht und ethnische Zugehörigkeit achten. Sehr große Online-Plattformen, wie X oder YouTube, sollten vor allem den Kampf gegen Frauenfeindlichkeit besser in ihre Algorithmen einbeziehen.
"Das ist dabei kein nice to have, sondern das verlangen EU-Gesetze wie der Digital Services Act. Sonst drohen hohe Strafen. Das Problem ist hier nur leider, dass die zuständigen Behörden das bisher unzureichend checken und verfolgen."
Die EU-Agentur für Grundrechte fordert eine Art Schiedsrichterteam, schreibt der österreichische Standard. Ein Netz aus unabhängigen, vertrauenswürdigen Organisationen, die problematische Inhalte auffinden und melden. Diese Organisationen sollten dabei finanziell von der EU-Kommission unterstützt werden.
Aktuell lässt die EU-Kommission Meta, Tiktok und X dahingehend untersuchen, ob sie ausreichend gegen Belästigungen, Drohungen und Aufrufe zu Gewalt vorgehen. Möglicherweise ist das der Anfang für eine konsequente Ahndung von Hate Speech.